AI Engineer

Zakres obowiązków:

• Projektowanie promptów jako artefaktów produktowych, odpornych na halucynacje, z separacją danych zaufanych i niezaufanych w kontekście

• Tworzenie modularnych promptów (role, instrukcje, constraints, output schema) z myślą o reużywalności, parametryzacji i wersjonowaniu

• Projektowanie system promptów dla agentów z dostępem do narzędzi, w tym precyzyjnych opisów narzędzi (tool descriptions traktowanych jako element promptu)

• Projektowanie outputów zgodnych z systemami downstream: JSON, schematy decyzyjne, tabele, struktury walidowalne

• Wsparcie projektowania orkiestracji multi-agent (np. wzorce supervisor/worker, specjalizacja agentów)

• Zarządzanie kontekstem w długich trajektoriach: kompresja, podsumowania pośrednie, strategie pamięci

• Projektowanie promptów dla scenariuszy RAG: wzorce cytowania, grounding na źródłach, obsługa sytuacji „brak danych w kontekście / nie wiem"

• Współpraca przy projektowaniu strategii retrievalu i kompresji kontekstu pod konkretny use case biznesowy

• Budowa golden datasets oraz eval setów dopasowanych do use case'u (zarówno dla pojedynczych promptów, jak i całych trajektorii agentowych)

• Definiowanie i mierzenie metryk: jakość finalnej odpowiedzi, task success rate, tool-call accuracy, jakość trajektorii, stabilność, koszt i czas wykonania

• Stosowanie podejścia LLM-as-a-judge ze świadomością jego ograniczeń i bias

• Regression testing przy zmianach promptów, modeli lub wersji API; udział w testach UAT

• Praca z narzędziami klasy Braintrust, LangSmith, Langfuse, Promptfoo lub własnymi harness'ami ewaluacyjnymi

• Identyfikacja i mitygacja ryzyk: prompt injection (szczególnie w architekturach z narzędziami), data exfiltration przez tool use, jailbreaks, niepożądane ujawnienie danych

• Świadome projektowanie z uwzględnieniem PII w promptach i logach, separacji trusted/untrusted content w kontekście

• Praca z trace'ami agentów, analiza failure modes, root cause analysis dla niepożądanych zachowań

• Iteracyjne ulepszanie promptów na podstawie danych z runtime, nie tylko intuicji

• Przekładanie potrzeb biznesowych (use case'y, procesy, decyzje) na skuteczne rozwiązania promptowe i agentowe

Wymagania:

• Doświadczenie w projektach opartych o agentowe systemy LLM realizowanych w środowisku regulowanym (np. bankowość), obejmujących etapy PoC, pilotażu i UAT

• Praktyczna znajomość pracy z Azure OpenAI w środowisku enterprise oraz doświadczenie z modelami reasoningowymi (np. o-series, Claude Extended Thinking)

• Umiejętność projektowania i rozwijania promptów zgodnie z podejściem „prompt as code" — wersjonowanie w Git, code review, CI/CD, testy regresyjne, środowiska dev/test/prod

• Doświadczenie w projektowaniu modularnych promptów i architektur agentowych (ReAct, planning, self-check, multi-agent orchestration)

• Znajomość scenariuszy RAG oraz grounding — projektowanie rozwiązań opartych o źródła wiedzy, regulacje, procedury i dokumenty klienta

• Umiejętność tworzenia promptów odpornych na halucynacje, prompt injection i inne ryzyka bezpieczeństwa związane z LLM

• Doświadczenie w integracji rozwiązań AI z systemami biznesowymi oraz narzędziami orkiestracji agentów

• Znajomość metod ewaluacji jakości modeli i promptów: golden datasets, eval sets, regression testing, LLM-as-a-judge, metryki jakości i stabilności

• Praktyka w pracy z narzędziami typu LangSmith, Langfuse, Braintrust, Promptfoo lub własnymi frameworkami ewaluacyjnymi

• Umiejętność analizy trace'ów agentów, debugowania failure modes oraz iteracyjnego ulepszania rozwiązań na podstawie danych runtime

• Doświadczenie we współpracy z product ownerami, analitykami, zespołami AI/data/IT oraz obszarami compliance, risk, security i model risk management

• Umiejętność przekładania potrzeb biznesowych na skuteczne rozwiązania promptowe i agentowe

Oferujemy:

• Dofinansowanie karty sportowej

• Stałe wsparcie konsultanta

• Program rekomendacji pracowników