Data Engineer Senior (he/she)

1. Wymagania / Kompetencje

UMIEJĘTNOŚCI WYMAGANE DO SPEŁNIENIA:

1. Co najmniej 5-letniego doświadczenia jako Data Engineer GCP w obszarze procesów integracji danych na GCP:

- Bardzo Dobra znajomość baz danych GCP : GCP Big Query, GCP Big Table, Scylla Cloud (projektowanie, budowa i tiuning baz danych)

- Dobra Znajomość narzędzi ETL Flow na GCP : Apache AirFlow , GCP Data Flow, GCP Data Proc

- Korzystanie z kolejek : Kafka, GCP Pub / Sub

2. Co najmniej 4-letnie doświadczenie jako Developer ETL w obszarze procesów integracji danych na on-prem :

- Biegłe posługiwanie się narzędziami ETL na on-prem na poziomie zaawansowanym : Informatic Power Center , ** NIFI

- Ekspercka znajomość relacyjne bazy danych Oracle, PostgeSQL , ScyllaDB (projektowanie, budowa i tiuning baz danych)

- Bardzo dobra znajomość narzędzia harmonogramującego Automate Now firmy Infinity Data

- Umiejętność wystawiania usług Rest API

3. Co najmniej 3-letnie doświadczenie jako programista w językach :

- Biegła znajomość Python (w obszarze integracji i analizy danych), i frame work PySpark

- Znajomość języka Rust do pisania narzędzi i frame worków wspomagających wydajne ładowanie danych

4. Z czasem przejęcie odpowiedzialności za wybrany obszar przetwarzania i wystawiania danych pod usługi w wysokim reżimie wydajnościowym

DODATKOWO:

- Chociaż podstawowa wiedza w zakresie programowania MicroServices w języku JAVA

- Korzystanie z systemu operacyjnego linux na poziomie zaawansowanego użytkownika,

- Doświadczenie w pracy z dużymi wolumenami danych ~100TB,

- Umiejętności analitycznego myślenia i szybkiego przyswajania wiedzy

- Samodzielności i kreatywności w rozwiązywaniu problemów

- Terminowości i rzetelności w realizacji projektów

- Mile widziana znajomość narzędzi pomocniczych : repozytorium GIT; narzędzi do monitorowania jak np. grafana ; narzędzia do testów wydajności jak Apache JMeter

2. Dodatkowe informacje:

Poszukujemy Senior Data Engineerów do realizacji projektu migracji danych z Oracle do Google Cloud Platform (BigQuery).

Oczekujemy wysokich kompetencji w zakresie:

• GCP BigQuery (projektowanie, optymalizacja, wydajność),

• baz danych Oracle (analiza struktur, ekstrakcja i transformacja danych).

Szukamy osób, które w krótkim czasie będą w stanie przejąć odpowiedzialność za leadership w obszarze ładowań oraz udostępniania danych w ramach dużego, złożonego projektu.