Lead Software Engineer

Lead Software Engineer (Data Platform / Analytics IT – Apache Iceberg) Lokalizacja i model pracy:

Lokalizacja: Kraków

Model hybrydowy: 6 dni w miesiącu z biura

Współpraca w modelu B2B Contracting przez Antal Zakres obowiązków:

Analiza i zbieranie wymagań funkcjonalnych oraz niefunkcjonalnych dla bieżących wdrożeń i długoterminowego rozwoju platformy.

Prowadzenie projektowania oraz wdrażania procesów przetwarzania danych i zarządzania tabelami z wykorzystaniem PySpark oraz Apache Iceberg.

Optymalizacja wydajności i kosztów związanych z wykorzystaniem Apache Iceberg, w tym strategii partycjonowania, rozmiaru plików, klastrowania danych oraz efektywności zapytań.

Odpowiedzialność za utrzymanie i rozwój operacji administracyjnych w Apache Iceberg (m.in. kompakcja danych, zarządzanie snapshotami i metadanymi, usuwanie osieroconych plików) oraz automatyzację tych procesów.

Wykorzystywanie dogłębnej znajomości architektury wewnętrznej Apache Iceberg (metadane, manifesty, snapshoty, specyfikacje partycjonowania, ewolucja schematów) do rozwiązywania problemów i usprawniania działania platformy.

Promowanie wysokich standardów inżynierskich poprzez code review, automatyzację testów, praktyki CI/CD, rozwój monitoringu i gotowości produkcyjnej.

Wsparcie dla usług i zbiorów danych utrzymywanych przez zespół, w tym udział w dyżurach produkcyjnych (jeśli wymagane).

Mentoring i wsparcie mniej doświadczonych inżynierów, aktywny udział w dyskusjach technicznych oraz podejmowaniu decyzji projektowych.

Współpraca z zespołami architektonicznymi, platformowymi oraz obszarem governance w celu zapewnienia bezpiecznych, skalowalnych i zgodnych z wymaganiami rozwiązań.

Wymagania:

Bardzo dobra praktyczna znajomość PySpark, w szczególności:

DataFrame API, optymalizacji wydajności, debugowania, optymalizacji zadań Spark.

Praktyczne doświadczenie z Apache Iceberg, obejmujące:techniki optymalizacji (partycjonowanie, organizacja i rozmiar plików, wydajność operacji odczytu i zapisu),znajomość architektury wewnętrznej (snapshoty, manifesty, pliki metadanych, ewolucja schematów i partycji),realizację i automatyzację operacji utrzymaniowych w środowiskach produkcyjnych (kompakcja danych, usuwanie przestarzałych snapshotów, czyszczenie metadanych, usuwanie osieroconych plików).

Silne podstawy inżynierii oprogramowania: projektowanie niezawodnych i łatwych w utrzymaniu systemów, pisanie czytelnego i testowalnego kodu oraz rozwinięte umiejętności rozwiązywania problemów.

Doświadczenie w utrzymaniu produkcyjnych środowisk przetwarzania danych oraz odpowiedzialne podejście właścicielskie (obsługa incydentów, analiza przyczyn źródłowych, działania stabilizujące).

Umiejętność efektywnej pracy zespołowej, bardzo dobre zdolności komunikacyjne oraz umiejętność wpływania na decyzje w międzynarodowym środowisku.

Samodzielność, inicjatywa, odpowiedzialność za pełny cykl dostarczania rozwiązań oraz dobra organizacja pracy.

Bardzo dobra znajomość języka angielskiego w mowie i piśmie.

Oferujemy:

Pracę w międzynarodowym środowisku jednej z największych instytucji finansowych na świecie.

Udział w strategicznych projektach związanych z platformami danych, analityką i nowoczesnymi technologiami Big Data.

Współpracę z globalnymi zespołami ekspertów z Polski, Wielkiej Brytanii, Indii i Chin.

Realny wpływ na architekturę, rozwój oraz kierunek technologiczny platform wykorzystywanych przez biznes naszego Klienta.

Możliwość pracy z nowoczesnym stosem technologicznym, w tym Apache Iceberg, PySpark i rozwiązaniami chmurowymi.

Kulturę opartą na współpracy, wymianie wiedzy i wysokich standardach inżynierskich.

Elastyczny model pracy hybrydowej.

Bogaty pakiet benefitów, w tym prywatną opiekę medyczną, ubezpieczenie na życie, kartę sportową.

Konkurencyjne wynagrodzenie i stabilne zatrudnienie w globalnej organizacji.