> Markdown version of [/jobs/ext/1927158-sovereign-ai-plattform-engineer-x](https://www.wearedevelopers.com/jobs/ext/1927158-sovereign-ai-plattform-engineer-x). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md). --- # Sovereign AI Plattform Engineer /x) - **Company:** Deutsche Telekom AG - **Location:** München, Germany - **Experience:** Expert - **Contract:** Voluntary work - **Skills:** Artificial Intelligence, Cloud Computing, Cyber Security, Linux, DevOps, Human-Computer Interaction, Networking Hardware, Python (Programming Language), Octopus Deploy, Open Source Technology, Reliability Engineering, Ansible, Webui, Toolchain, Large Language Models, Kubernetes, Machine Learning Operations, Terraform - **Published:** August 5, 2026 - **Apply:** https://www.adzuna.de/details/5827848377 ## About the Role Über die PositionAls Platform Engineer mit Schwerpunkt Sovereign AI entwickeln, implementieren und betreiben Sie eine sichere und leistungsfähige KI-Toolchain für den Einsatz in isolierten oder besonders geschützten IT-Umgebungen. Sie gestalten Kubernetes-basierte Plattformen für KI-Inferenz, Retrieval, Experimente und agentenbasierte Anwendungen. Dabei integrieren und betreiben Sie Open-Source- und Open-Weight-Modelle, Model-Serving-Lösungen, Model Gateways, Vektordatenbanken sowie interne Benutzeroberflächen und Schnittstellen. Mit Infrastructure as Code, GitOps und automatisierten Deployment-Prozessen schaffen Sie stabile, reproduzierbare und auditierbare Plattformumgebungen. Sie verwalten private Registries, lokale Paket- und Modell-Repositories, Secrets, Zugriffsrechte, Storage, Netzwerkkomponenten und Observability-Lösungen in Umgebungen mit eingeschränkter oder vollständig unterbundener Anbindung an öffentliche Cloud-Dienste. Darüber hinaus optimieren Sie GPU-, CPU-, Storage- und Netzwerkressourcen für zuverlässige KI-Workloads und stellen sicher, dass Sicherheits-, Audit- und Datensouveränitätsanforderungen eingehalten werden. Must-have-Kenntnisse * Mindestens fünf Jahre Erfahrung im Platform Engineering, DevOps, Site Reliability Engineering oder MLOps * Sehr gute Kenntnisse in Kubernetes und Linux * Erfahrung mit KI-Infrastrukturen, Model Serving und LLM-basierten Anwendungen * Erfahrung mit privaten, On-Premises- oder isolierten Deployment-Umgebungen * Gute Kenntnisse in Python, Terraform, Ansible, Helm und GitOps * Fundierte Kenntnisse in den Bereichen Netzwerk, Storage, Zugriffskontrolle und Monitoring * Erfahrung mit GPU-gestützten Plattformen und der Optimierung von KI-Workloads * Sehr gutes Verständnis von IT-Sicherheit, Datensouveränität und auditierbaren Betriebsmodellen * Sehr gute Deutschkenntnisse in Wort und Schrift auf C1-Niveau Nice-to-have-Kenntnisse * Erfahrung mit vLLM, Ollama, llama.cpp oder vergleichbaren Model-Serving-Lösungen * Kenntnisse im Umgang mit Open-Source- oder Open-Weight-Modellen * Erfahrung mit Vektordatenbanken wie Qdrant und Retrieval-Augmented Generation * Kenntnisse in Argo CD, privaten Registries und lokalen Paket- oder Modell-Repositories * Erfahrung mit Open WebUI oder vergleichbaren internen KI-Oberflächen * Kenntnisse in GPU-Scheduling, LLMOps, Observability und Air-Gap-Umgebungen * Erfahrung mit VS-Code-kompatiblen Integrationen und internen KI-Schnittstellen ## Related Videos - [From AI Assistance to Agentic Systems: Scaling Sovereign AI in Banking](https://www.wearedevelopers.com/videos/100070-from-ai-assistance-to-agentic-systems-scaling-sovereign-ai-in-banking) - [From DevOps to Scaled DevOps: How We’re Rebuilding Continuous Delivery as a Platform](https://www.wearedevelopers.com/videos/100018-from-devops-to-scaled-devops-how-we-re-rebuilding-continuous-delivery-as-a-platform) - [Docker network without Docker](https://www.wearedevelopers.com/videos/1418-docker-network-without-docker) - [#90DaysOfDevOps - The DevOps Learning Journey](https://www.wearedevelopers.com/videos/548-90daysofdevops-the-devops-learning-journey) - [The Missing Layer Between Enterprise Data and AI Agents](https://www.wearedevelopers.com/videos/100286-the-missing-layer-between-enterprise-data-and-ai-agents) - [DevOps Maturity Check – a way to balance autonomy and alignment](https://www.wearedevelopers.com/videos/58-devops-maturity-check-a-way-to-balance-autonomy-and-alignment) ## Related Articles - [The Biggest German Tech Companies](https://www.wearedevelopers.com/magazine/424-the-biggest-german-tech-companies) - [Best Coding Boot Camps in Germany](https://www.wearedevelopers.com/magazine/237-best-coding-boot-camps-in-germany) - [The Most Popular IT Jobs on the Market](https://www.wearedevelopers.com/magazine/376-the-most-popular-it-jobs-on-the-market) - [System change: restart as developer?](https://www.wearedevelopers.com/magazine/39-system-change-restart-as-developer) - [Finding Jobs in Germany](https://www.wearedevelopers.com/magazine/375-finding-jobs-in-germany) - [Dev Digest 121 - AI goes offline](https://www.wearedevelopers.com/magazine/456-dev-digest-121-ai-goes-offline)