AI Infrastructure Engineer / MLOps (k/m)

Twoim głównym celem będzie kompleksowe projektowanie i wdrażanie infrastruktury dla modeli sztucznej inteligencji (w tym LLM) na serwerach fizycznych u naszych klientów. Czeka Cię praca blisko "metalu" oraz najnowszych technologii GenAI.

• Projektowanie architektury rozwiązań on-premise dla systemów AI/LLM oraz tworzenie dokumentacji technicznej.

• Przygotowywanie środowiska od podstaw: instalacja i konfiguracja OS (Linux), sterowników GPU (Nvidia/CUDA), środowisk kontenerowych oraz narzędzi MLOps na dedykowanych serwerach fizycznych.

• Uruchamianie i optymalizacja lokalnych środowisk do inferencji (serwowania) modeli językowych oraz ich douczania (fine-tuning).

• Budowa pipeline'ów danych zasilających modele oraz ich integracja z bazami danych klientów.

• Wdrażanie modeli na produkcję, stabilizacja środowiska, testy wydajnościowe oraz walidacja jakości.

• Ścisła współpraca z zespołem Data Science przy procesach trenowania i dostrajania modeli na danych klienta.

Czego oczekujemy? (Must-have):

• Solidnego doświadczenia na stanowisku DevOps, MLOps, SysAdmin lub podobnym, ze szczególnym uwzględnieniem środowisk on-premise / bare-metal.

• Biegłej znajomości systemów z rodziny Linux oraz zarządzania sieciami.

• Praktycznego doświadczenia z ekosystemem GPU: instalacja i konfiguracja sterowników Nvidia, CUDA, cuDNN.

• Doświadczenia z konteneryzacją i orkiestracją (Docker, Docker Compose, mile widziany Kubernetes).

• Znajomości zagadnień z obszaru MLOps i narzędzi do zarządzania cyklem życia modeli (np. MLflow, DVC, Kubeflow).

• Znajomości architektury i narzędzi związanych z LLM (np. vLLM, Ollama, Hugging Face Text Generation Inference, LangChain).

• Zdolności analitycznych i architektonicznych oraz umiejętności tworzenia dokumentacji.

Mile widziane:

• Umiejętność pisania skryptów w Pythonie oraz zrozumienie procesu fine-tuningu modeli językowych (np. LoRA, QLoRA).

• Znajomość narzędzi do automatyzacji infrastruktury (Ansible, Terraform).

• Doświadczenie w pracy z bazami wektorowymi (np. Milvus, Qdrant, Pinecone).

Jak pracujemy i czego możesz się spodziewać?

• Pionierskie projekty: Wdrażanie prywatnych LLM-ów na fizycznym sprzęcie.

• Duża autonomia: Masz realny wpływ na architekturę infrastruktury i wybór narzędzi MLOps.

• Forma współpracy dopasowana do swoich preferencji: umowę o pracę lub B2B.

• Sprzęt: Dostęp do potężnych maszyn obliczeniowych.

• Benefity pozapłacowe, m.in. karta Multisport, pakiet medyczny Luxmed/PZU, ubezpieczenie grupowe oraz program poleceń pracowniczych,

• Elastyczność: elastyczne godziny pracy, praca zdalna.

Brzmi ciekawie? Aplikuj!