DevOps Engineer - AI Infrastructure & Orchestration

W ITLT pomagamy naszym zaprzyjaźnionym firmom przekształcać ambitne pomysły w cyfrową rzeczywistość.

Z nastawieniem na wyzwania, ciekawość technologii i zwinność - współtworzymy wyjątkowe rozwiązania IT.

Aktualnie poszukujemy osób na stanowisko: DevOps Engineer (AI Infrastructure & Orchestration)

Konkrety:

• Stawka: 190 PLN/h na FV

• Miejsce pracy/praca zdalna: Praca zdalna (Remote)

• Wymiar pracy: Fulltime

• Sektor: AI/Telco

• Projekt: On-prem LLM platform - orkiestracja i monitoring vLLM na GPU clusterze

• Zespół: 6-8os.

• Proces rekrutacji: 1-etapowy (spotkanie zdalne via MS Teams). Sporadycznie możliwe dodatkowe krótkie spotkanie - połączone z decyzją

• Szacowany czas trwania projektu: Długoterminowy/Bezterminowy

• Czas pracy/Strefa czasowa: Standardowe polskie godziny pracy

• Technologie na projekcie: Kubernetes (OpenShift), vLLM, NVIDIA GPU (H100/H200/B300), Prometheus, Grafana, ELK, OpenTelemetry, Python, Bash, Go, GitLab CI, Jenkins, ArgoCD, bare metal

Do Twoich głównych obowiązków na tym stanowisku należeć będzie:

• Deployment i utrzymanie vLLM na Openshift Kubernetes (bare-metal GPU)

• Orkiestracja i optymalizacja GPU (NVIDIA)

• Automatyzacja lifecycle modeli (HF/S3: pull, versioning, hot-swap)

• HPA (queue depth, GPU memory)

• Tuning vLLM (performance, batching, memory)

• Metryki inference (tokeny, latency, errors) + tracking zużycia per user/API key

• Grafana dashboards (GPU, TTFT, RPS, koszty, quota)

• Alerting (GPU failures, latency, anomalies)

• API Gateway (NGINX: auth, rate limit, routing)

• Security + isolation + audit logging

• Monitoring stack (Prometheus, Grafana, ELK, OpenTelemetry)

• Automatyzacja (Python/Bash/Go)

• CI/CD (GitLab CI, Jenkins, ArgoCD)

• SLA 99.9%, >70% GPU utilization, MTTR reduction

Ta oferta będzie idealna dla Ciebie, jeśli posiadasz:

• Min. 5+ lat doświadczenia w DevOps/SRE

• Min. 2 lata doświadczenia w MLOps lub AI Infrastructure

• Doświadczenie w deploymencie vLLM w środowisku produkcyjnym

• Znajomość PagedAttention i continuous batching (vLLM)

• Bardzo dobra znajomość Kubernetes i Openshift

• Doświadczenie w infrastrukturze GPU NVIDIA (CUDA drivers, container toolkit, debugging)

• Umiejętność zarządzania i debugowania środowisk GPU

• Doświadczenie w budowie systemów observability od zera

• Umiejętność tworzenia custom Prometheus exporters

• Bardzo dobra znajomość Python (automation, tooling)

• Znajomość Bash i Go

• Doświadczenie w pracy z CI/CD (GitLab CI, Jenkins, ArgoCD)

• Doświadczenie w środowiskach on-prem / bare-metal

Nice to have:

• Znajomość GPU orchestration w Kubernetes (device plugins NVIDIA)

• Znajomość model quantization (AWQ, GPTQ) 

• Znajomość FinOps dla AI infrastructure

• Znajomość vector databases (Milvus, Qdrant)

Warto do nas dołączyć, ponieważ oferujemy:

• Dużą swobodę pracy zdalnej

• Długofalowe stabilne zatrudnienie

• Szansę na uczestniczenie w kluczowych projektach dla dużej firmy działającej w bardzo stabilnym sektorze

• Atrakcyjne wynagrodzenie (adekwatne do umiejętności i doświadczenia)

• Benefity (Lux Med, MultiSport...)

W razie pytań pingnij śmiało na Linkedin'ie do Kuby