DataBricks Architect at Crodu

Remote: 
Full Remote
Contract: 
Work from: 

Offer summary

Qualifications:

Solid experience as a data engineer or in related roles (8+ years), Strong knowledge of DataBricks and Apache Spark, Proficiency in Python programming, Experience with cloud migrations and AWS environment..

Key responsabilities:

  • Ensure data security and storage compliance
  • Process and index DICOM data
  • Validate data, create data processing pipelines, and share cohorts
  • Plan and execute database migrations while collaborating closely with the team.

CRODU logo
CRODU Information Technology & Services Scaleup https://crodu.com/
51 - 200 Employees
See all jobs

Job description

🌴 Forma pracy: długoterminowo, fulltime, 100% zdalnie 👈
⏰ Start: ASAP (19.05.2025) 👈

Cześć! 👋
Dla naszego klienta z USA poszukujemy DataBrick Architectów. Prace dotyczą działań w obszarach m.in. migracji, zbierania danych i optymalizacji rozwiązań opartych na DataBricks. Klient posiada stałe zapotrzebowanie na specjalistów. Projekty które prowadzą przeważnie są krótkoterminowe (spore prawdopodobieństwo na przedłużenia projektów) i ze względu na stałość zapotrzebowania klient jest w stanie zaproponować nowy temat po zakończeniu danego projektu.
Obecnie poszukiwani są specjaliści do 2 projektów AI/ML z obszarów healthcare. Jeden z projektów dotyczy analizy danych tekstowych, drugi analizy obrazów generowanych przez urządzenia medyczne (rentgen, rezonans magnetyczny itp.). Zebrane dane będą migrowane do chmurowej bazy opartej na DataBricks. Platformy mają obsługiwać cały cykl życia danych w zgodzie z wbudowanymi funkcjonalnościami zapewniającymi zgodność z przepisami, możliwość przeprowadzania audytów, tworzenia kohort czy wtórnego wykorzystania modeli. Celem projektów jest rozwiązanie problemów związanych z istniejącymi systemami zarządzania danych (rozproszone źródła, ręczne procesy, niewystarczające bezpieczeństwo).
Poszukujemy osób, które biegle znają Pythona. Dla klienta kluczowe jest obycie w środowiskach chmurowych oraz znajomość DataBricks i Apache Spark. Projekty prowadzone przede wszystkim dla firm z USA - w większości przypadków wymagana jest praca jedynie z niewielką zakładką godzinową (np. od 10:00 do 18:00) natomiast jesteśmy w stanie dogadać się jeśli chodzi o godziny pracy.

Ogólny zakres obowiązków:
📍 Zapewnienie bezpieczeństwa przechowywanie danych
📍 Przetwarzanie i indeksowanie danych DICOM
📍 Walidacja danych, tworzenie pipeline'ów przetwarzania danych, tworzenie i udostępnianie kohort
📍 Zaplanowanie i przeprowadzenie migracji baz danych
📍 Ścisła współpraca z zespołem (m.in. data engineers, data scientists, informatycy kliniczni, zespół wsparcia)

Wymagania:
⚡️ Solidne doświadczenie w pracy w roli data engineera lub pokrewnych rolach (8+ lat)
⚡️ Bardzo dobra znajomość platformy DataBricks oraz Apache Spark
⚡️ Bardzo dobra znajomość Python
⚡️ Doświadczenie w przeprowadzaniu migracji chmurowych
⚡️ Doświadczenie w pracy w środowisku AWS (Amazon s3)
⚡️ Doświadczenie w prowadzeniu projektów związanych z ML
⚡️ Umiejętności interpersonalne i zespołowe
⚡️ Umiejętność podejmowania inicjatywy i samodzielność
⚡️ Angielski na poziomie umożliwiającym swobodną komunikację w zespole
Mile widziane:

⚡️ Doświadczenie w pracy w środowisku AWS Microsoft Azure (np. Data Factory, Synapse, Logic Apps, Data Lake)
⚡️ Doświadczenie w projektowaniu i optymalizacji przepływów danych za pomocą, DBT, SSIS, TimeXtender lub podobnych rozwiązań (ETL, ELT)
⚡️ Doświadczenie z dowolnymi platformami big data lub noSQL (Redshift, Hadoop, EMR, Google Data itp.)

Jak działamy i co oferujemy?
🎯 Stawiamy na otwartą komunikację zarówno w procesie rekrutacji jak i po zatrudnieniu - zależy nam na klarowności informacji dotyczących procesu i zatrudnienia
🎯 Do rekrutacji podchodzimy po ludzku, dlatego upraszczamy nasze procesy rekrutacyjne, żeby były możliwie jak najprostsze i przyjazne kandydatowi
🎯 Pracujemy w imię zasady "remote first", więc praca zdalna to u nas norma, a wyjazdy służbowe ograniczamy do minimum
🎯 Oferujemy prywatną opiekę medyczną (Medicover) oraz kartę Multisport dla kontraktorów

Jak aplikować? 👈
Prześlij nam zgłoszenie za pomocą formularza!

Required profile

Experience

Industry :
Information Technology & Services
Spoken language(s):
English
Check out the description to know which languages are mandatory.

Other Skills

  • Social Skills
  • Teamwork
  • Communication

Related jobs