AI Plattform Engineer (m/w/d)

Über die RolleFür ein langfristiges Projekt im Bereich Künstlicher Intelligenz wird ein erfahrener Berater (m/w/d) gesucht, der als AI Plattform Engineer den Aufbau, die Weiterentwicklung und den stabilen Betrieb einer modernen on-premise Sprachmodell-Plattform verantwortet.Der Einsatz findet im Umfeld eines großen öffentlichen IT-Dienstleisters statt.Deine Aufgaben:Aufbau und Betreuung einer skalierbaren on-premise Sprachmodell-Plattform für generative KIEinrichtung, Dokumentation und Verwaltung einer RAG-Chat-Anwendung in Container-Umgebungen (z. B. OpenShift)Integration von Benutzerauthentifizierung und modularen Erweiterungsmöglichkeiten für die PlattformSicherstellung eines stabilen Plattformbetriebs, inkl. Monitoring von Ressourcen, Logs & FehleranalyseEntwicklung von Daten- und Analysepipelines für Extraktion, Transformation und Anreicherung von Daten sowie Ablage in Vektor- und NoSQL-DatenbankenAufbau spezialisierter Wissensdatenbanken (Datenmodellierung, Indexierung, semantische Suche)Entwicklung einer zentralen Schnittstelle (API) für die Anbindung von Chatbot, Browser-Extensions, IDEs und Office-Tools an SQL-, NoSQL- und VektordatenbankenDokumentation aller technischen Tätigkeiten und enge Abstimmung mit dem ProjektteamDein Profil:Mehr als 8 Jahre Projekterfahrung in der Künstlichen Intelligenz, nachweisbar durch ProjektreferenzenMindestens 5 Jahre professionelle Python-Programmiererfahrung (Datenverarbeitung, KI, Automatisierung)Mindestens ein abgeschlossenes Praxisprojekt als AI Plattform Engineer (z. B. Aufbau KI-Infrastruktur, MLOps, GenAI-Plattformen)Fähigkeit, on-premise KI-Lösungen zu entwickeln und zu betreiben (GPU-Umgebungen, Containerplattformen)Erfahrung im Aufbau und Betrieb einer RAG-Chat-Lösung und im Entwickeln von DatenpipelinesKenntnisse zu modernen KI-Frameworks, u. a. vLLM, Vektordatenbanken und Container-OrchestrierungVorteil: Erfahrung in IT-Projekten der öffentlichen VerwaltungSehr gute Deutsch- und Englischkenntnisse in Wort und SchriftWünschenswert (Nice-to-Have):On-Premise KI-Systeme (Dev & Ops) ErfahrungErfahrung mit RAG-LösungenDaten- und AnalysepipelinesKenntnisse zu modernen KI-Frameworks, u. a. vLLMProjektkenntnis in der FinanzverwaltungAndere DetailsZeitraum: Rahmenvereinbarung bis 2030Arbeitsort: Vor-Ort-Präsenz von weniger als einem Tag je Monat Woche erwartet, Remote/DeutschlandKurz zusammengefasstDiese Rolle ist ideal für Dich, wenn Du:Erfahrung mit Künstliche Intelligenz hast und bereits komplexe KI-Projekte erfolgreich umgesetzt hastErfahrung mit RAG-Lösungen hastStarke Python-Programmierungskenntnisse (mind. 5 Jahre) mitbringstErfahrung im Aufbau von Datenpipelines und dem Arbeiten mit Vektor- und NoSQL-Datenbanken hastKenntnisse zu modernen KI-Frameworks, u. a. vLLM hastBei Interesse freue ich mich auf Deine Bewerbungsunterlagen, Verfügbarkeit und Stundensätze an [email protected]!