Mid Data Engineer

Poszukujemy Data Engineer’a na poziomie Middle do współpracy przy realizacji projektu z obszaru Data Engineering i migracji danych do Google Cloud Platform.

Szukamy osoby, która dobrze czuje się w pracy z dużymi zbiorami danych, zna BigQuery i SQL, a także ma praktyczne doświadczenie w budowaniu i rozwijaniu procesów ETL/ELT oraz migracji rozwiązań z środowisk on-premise do chmury.

Forma współpracy:

Model współpracy: B2B Stawka: 147,20 zł netto/hLokalizacja: Warszawa, z okresowymi wizytami w siedzibie klienta, średnio raz w tygodniu, zależnie od bieżących potrzeb projektowych.

W ramach współpracy będziesz odpowiadać m.in. za:projektowanie, implementację i rozwój rozwiązań Data Engineering na Google Cloud Platform, przede wszystkim z wykorzystaniem BigQuery, Cloud Storage i Pub/Sub; migrację i przebudowę procesów przetwarzania oraz zasilania danych z Oracle / środowisk on-premise do GCP; projektowanie i rozwój procesów batch oraz streaming, wraz z mechanizmami kontroli jakości, obsługi błędów i ponawiania operacji; projektowanie struktur i modeli danych w BigQuery, z uwzględnieniem wydajności, skalowalności oraz optymalizacji kosztów; analizę danych oraz przygotowywanie logicznych i fizycznych modeli danych dla Oracle, PostgreSQL i GCP; tworzenie, analizę i optymalizację zapytań SQL, w tym analizę planów wykonania i identyfikowanie wąskich gardeł przy dużych wolumenach danych; analizę istniejących procesów Informatica PowerCenter oraz ich migrację do rozwiązań docelowych w GCP; implementację logiki transformacji, walidacji i integracji danych w SQL i Python; wykonywanie analiz technicznych, analiz wpływu i zależności oraz udział w uzgadnianiu specyfikacji rozwiązania; przygotowywanie testów jednostkowych i integracyjnych oraz wsparcie testów systemowych, wydajnościowych, regresji i UAT; przygotowywanie zmian do wdrożenia, instrukcji wdrożeniowych oraz wsparcie wdrożeń i weryfikacji powdrożeniowej; diagnozowanie i usuwanie incydentów związanych z przetwarzaniem oraz jakością danych; tworzenie i aktualizację dokumentacji technicznej; pracę z repozytorium kodu oraz procesami CI/CD zgodnie z podejściem DevOps.

Czego oczekujemy?minimum 2 lata komercyjnego doświadczenia w projektowaniu i implementacji procesów integracji lub przetwarzania danych; doświadczenia odpowiadającego poziomowi Middle Data Engineer; praktycznej znajomości Google Cloud Platform, w szczególności:

BigQuery, Cloud Storage, Pub/Sub; praktycznego doświadczenia z Oracle, w tym tworzenia i optymalizacji zapytań SQL oraz pracy z dużymi wolumenami danych; doświadczenia z Informatica PowerCenter, pozwalającego na samodzielną analizę i modyfikację procesów ETL; znajomości SQL na poziomie pozwalającym na analizę, optymalizację i rozwój procesów przetwarzania danych; doświadczenia w pracy z procesami ETL/ELT, migracją danych i integracją systemów; znajomości Python w zakresie potrzebnym do implementacji logiki przetwarzania i transformacji danych; doświadczenia z testowaniem, dokumentowaniem i wdrażaniem rozwiązań danych.