Sovereign AI Plattform Engineer /x)

Über die PositionAls Platform Engineer mit Schwerpunkt Sovereign AI entwickeln, implementieren und betreiben Sie eine sichere und leistungsfähige KI-Toolchain für den Einsatz in isolierten oder besonders geschützten IT-Umgebungen. Sie gestalten Kubernetes-basierte Plattformen für KI-Inferenz, Retrieval, Experimente und agentenbasierte Anwendungen. Dabei integrieren und betreiben Sie Open-Source- und Open-Weight-Modelle, Model-Serving-Lösungen, Model Gateways, Vektordatenbanken sowie interne Benutzeroberflächen und Schnittstellen. Mit Infrastructure as Code, GitOps und automatisierten Deployment-Prozessen schaffen Sie stabile, reproduzierbare und auditierbare Plattformumgebungen. Sie verwalten private Registries, lokale Paket- und Modell-Repositories, Secrets, Zugriffsrechte, Storage, Netzwerkkomponenten und Observability-Lösungen in Umgebungen mit eingeschränkter oder vollständig unterbundener Anbindung an öffentliche Cloud-Dienste. Darüber hinaus optimieren Sie GPU-, CPU-, Storage- und Netzwerkressourcen für zuverlässige KI-Workloads und stellen sicher, dass Sicherheits-, Audit- und Datensouveränitätsanforderungen eingehalten werden. Must-have-Kenntnisse

• Mindestens fünf Jahre Erfahrung im Platform Engineering, DevOps, Site Reliability Engineering oder MLOps
• Sehr gute Kenntnisse in Kubernetes und Linux
• Erfahrung mit KI-Infrastrukturen, Model Serving und LLM-basierten Anwendungen
• Erfahrung mit privaten, On-Premises- oder isolierten Deployment-Umgebungen
• Gute Kenntnisse in Python, Terraform, Ansible, Helm und GitOps
• Fundierte Kenntnisse in den Bereichen Netzwerk, Storage, Zugriffskontrolle und Monitoring
• Erfahrung mit GPU-gestützten Plattformen und der Optimierung von KI-Workloads
• Sehr gutes Verständnis von IT-Sicherheit, Datensouveränität und auditierbaren Betriebsmodellen
• Sehr gute Deutschkenntnisse in Wort und Schrift auf C1-Niveau

Nice-to-have-Kenntnisse

• Erfahrung mit vLLM, Ollama, llama.cpp oder vergleichbaren Model-Serving-Lösungen
• Kenntnisse im Umgang mit Open-Source- oder Open-Weight-Modellen
• Erfahrung mit Vektordatenbanken wie Qdrant und Retrieval-Augmented Generation
• Kenntnisse in Argo CD, privaten Registries und lokalen Paket- oder Modell-Repositories
• Erfahrung mit Open WebUI oder vergleichbaren internen KI-Oberflächen
• Kenntnisse in GPU-Scheduling, LLMOps, Observability und Air-Gap-Umgebungen
• Erfahrung mit VS-Code-kompatiblen Integrationen und internen KI-Schnittstellen

Was Sie erwartetSie gestalten eine souveräne KI-Plattform für den sicheren Betrieb moderner Large Language Models in isolierten und besonders geschützten IT-Umgebungen.Dabei arbeiten Sie mit Kubernetes, Open-Source- und Open-Weight-Modellen, GPU-gestützten Infrastrukturen, Model Serving, Retrieval, GitOps und Infrastructure as Code. Sie schaffen stabile, reproduzierbare und auditierbare Plattformen und leisten einen wesentlichen Beitrag zu Datensouveränität, Sicherheit und technologischer Unabhängigkeit. Was wir bietenFlexibilität und Work-Life-Balance: Profitieren Sie von flexiblen Arbeitszeiten, der Möglichkeit zum mobilen Arbeiten und einem hybriden Arbeitsmodell.Attraktive Vergütung: Ein wettbewerbsfähiges Gehaltspaket, das Ihre Expertise und Leistung honoriert.Entwicklungsmöglichkeiten: Zugang zu umfangreichen Weiterbildungsangeboten, Schulungen und Karriereentwicklungsprogrammen.Modernes Arbeitsumfeld: Arbeiten Sie in einer modernen Ausstattung mit den neuesten Technologien und Tools.Starke Unternehmenskultur: Eine offene und kollegiale Arbeitsatmosphäre, in der Teamarbeit und gegenseitige Unterstützung großgeschrieben werden.Gesundheit und Wohlbefinden: Angebote zur Gesundheitsförderung und Initiativen, die Ihr Wohlbefinden unterstützen.Zusatzleistungen: Diverse Benefits wie betriebliche Altersvorsorge, Mitarbeiterrabatte und Jobticket-Optionen. Ihre Bewerbung kann durch externe Dienstleister in Deutschland bearbeitet werden. Bewerbungen auf Positionen außerhalb der Deutschen Telekom AG können zudem durch Recruiterinnen und Recruiter in anderen europäischen Ländern bearbeitet werden. Dies gilt auch für die Bearbeitung von Bewerbungen bei Tochtergesellschaften der Deutschen Telekom AG.Daher gilt für unsere Beamtinnen und Beamten folgender Hinweis: Sie sind nicht verpflichtet, Ihrer Bewerbung Unterlagen beizufügen, die für Ihre Personalakte relevant sind, insbesondere dienstliche Beurteilungen. Selbstverständlich können Sie diese Unterlagen freiwillig einreichen. Diese Position ist auch in Teilzeit zu besetzen. Menschen mit Behinderung werden bei gleicher Eignung bevorzugt berücksichtigt.