AI Plattform Engineer (m/w/d)

Über die Rolle

Für ein langfristiges Projekt im Bereich Künstlicher Intelligenz wird ein erfahrener Berater (m/w/d) gesucht, der als AI Plattform Engineer den Aufbau, die Weiterentwicklung und den stabilen Betrieb einer modernen on-premise Sprachmodell-Plattform verantwortet.

Der Einsatz findet im Umfeld eines großen öffentlichen IT-Dienstleisters statt.

Deine Aufgaben:

• Aufbau und Betreuung einer skalierbaren on-premise Sprachmodell-Plattform für generative KI

• Einrichtung, Dokumentation und Verwaltung einer RAG-Chat-Anwendung in Container-Umgebungen (z. B. OpenShift)

• Integration von Benutzerauthentifizierung und modularen Erweiterungsmöglichkeiten für die Plattform

• Sicherstellung eines stabilen Plattformbetriebs, inkl. Monitoring von Ressourcen, Logs & Fehleranalyse

• Entwicklung von Daten- und Analysepipelines für Extraktion, Transformation und Anreicherung von Daten sowie Ablage in Vektor- und NoSQL-Datenbanken

• Aufbau spezialisierter Wissensdatenbanken (Datenmodellierung, Indexierung, semantische Suche)

• Entwicklung einer zentralen Schnittstelle (API) für die Anbindung von Chatbot, Browser-Extensions, IDEs und Office-Tools an SQL-, NoSQL- und Vektordatenbanken

• Dokumentation aller technischen Tätigkeiten und enge Abstimmung mit dem Projektteam

Dein Profil:

• Mehr als 8 Jahre Projekterfahrung in der Künstlichen Intelligenz, nachweisbar durch Projektreferenzen

• Mindestens 5 Jahre professionelle Python-Programmiererfahrung (Datenverarbeitung, KI, Automatisierung)

• Mindestens ein abgeschlossenes Praxisprojekt als AI Plattform Engineer (z. B. Aufbau KI-Infrastruktur, MLOps, GenAI-Plattformen)

• Fähigkeit, on-premise KI-Lösungen zu entwickeln und zu betreiben (GPU-Umgebungen, Containerplattformen)

• Erfahrung im Aufbau und Betrieb einer RAG-Chat-Lösung und im Entwickeln von Datenpipelines

• Kenntnisse zu modernen KI-Frameworks, u. a. vLLM, Vektordatenbanken und Container-Orchestrierung

• Vorteil: Erfahrung in IT-Projekten der öffentlichen Verwaltung

• Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift

Wünschenswert (Nice-to-Have):

• On-Premise KI-Systeme (Dev & Ops) Erfahrung

• Erfahrung mit RAG-Lösungen

• Daten- und Analysepipelines

• Kenntnisse zu modernen KI-Frameworks, u. a. vLLM

• Projektkenntnis in der Finanzverwaltung

Andere Details

Zeitraum: Rahmenvereinbarung bis 2030

Arbeitsort: Vor-Ort-Präsenz von weniger als einem Tag je Monat Woche erwartet, Remote/Deutschland

Kurz zusammengefasst

Diese Rolle ist ideal für Dich, wenn Du:

• Erfahrung mit Künstliche Intelligenz hast und bereits komplexe KI-Projekte erfolgreich umgesetzt hast

• Erfahrung mit RAG-Lösungen hast

• Starke Python-Programmierungskenntnisse (mind. 5 Jahre) mitbringst

• Erfahrung im Aufbau von Datenpipelines und dem Arbeiten mit Vektor- und NoSQL-Datenbanken hast

• Kenntnisse zu modernen KI-Frameworks, u. a. vLLM hast

Bei Interesse freue ich mich auf Deine Bewerbungsunterlagen, Verfügbarkeit und Stundensätze an tamara.petrovic.turkovic@emagine.de!