KI-Engineer - Kubernetes & OpenShift

Technische Unterstützung bei der Entwicklung, dem Deployment und dem Betrieb von KI-Lösungen Deployment und Betrieb von KI-Anwendungen auf containerbasierter Infrastruktur (insbesondere Kubernetes und Red Hat OpenShift) Bereitstellung und Betrieb von Large Language Models (LLMs) auf lokalen GPU-Ressourcen Mitwirkung beim Aufbau und Einsatz generativer KI-Anwendungen Unterstützung bei der Implementierung von RAG-Architekturen Nutzung und Integration von vLLM zur performanten Modellbereitstellung Durchführung von explorativen Datenanalysen inklusive Datenaufbereitung Technische Unterstützung bei der Produktivsetzung von KI-Use-Cases Nutzung von CI/CD-Pipelines, insbesondere mit ARGO Entwicklung und Anpassung von Python-basierten Komponenten Zusammenarbeit mit Fach- und Entwicklungsteams im Umfeld der Finanzverwaltung Unterstützung bei Betrieb, Wartung und Weiterentwicklung bestehender KI- und BI-Lösungen Dokumentation der technischen Umsetzung und eingesetzten Tools

Erfahrung im Deployment von KI-Lösungen auf containerbasierter Infrastruktur Praktische Kenntnisse in Kubernetes und Red Hat OpenShift Erfahrung mit ARGO (CI/CD, GitOps) Sehr gute Kenntnisse in Python Erfahrung mit Large Language Models (LLMs), idealerweise vLLM Kenntnisse im Aufbau von RAG-Systemen Erfahrung mit OpenShift AI Grundkenntnisse in der Web-Front-End-Entwicklung Erfahrung in IT-Projekten, idealerweise im Umfeld der Finanzverwaltung Strukturierte, dokumentationssichere Arbeitsweise und Teamfähigkeit Gute Deutschkenntnisse in Wort und Schrift