> Markdown version of [/jobs/ext/1645551-ai-platform-engineer-all-genders](https://www.wearedevelopers.com/jobs/ext/1645551-ai-platform-engineer-all-genders). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# AI Platform Engineer (all genders)

- **Company:** DATAGROUP Operate IT GmbH
- **Location:** Germany
- **Contract:** Permanent contract
- **Skills:** Artificial Intelligence, Microsoft Azure, Cloud Computing, Databases, Continuous Integration, Linux, DevOps, Python (Programming Language), PostgreSQL, Data Logging, Cloud Platform System, Large Language Models, Kubernetes, Information Technology, Docker
- **Published:** July 12, 2026
- **Apply:** https://de.indeed.com/viewjob?jk=b79a484a48b6edcd

## About the Role

* Abgeschlossenes Studium der (Wirtschafts-) Informatik oder eine vergleichbare Qualifikation
 * Mehrjährige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld
 * Fundierte Praxiserfahrung im Betrieb containerbasierter Anwendungen und moderner Plattformen
 * Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise in selbst gehosteten Umgebungen
 * Sehr gute Kenntnisse in Kubernetes, Docker und Linux
 * Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insbesondere Azure) sowie PostgreSQL
 * Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen
 * Solide Python-Kenntnisse für Automatisierung und Integrationen
 * Eigenständige und strukturierte Arbeitsweise mit hoher Eigenverantwortung sowie Sicherheits- und Datenschutzbewusstsein
 * Ausgeprägtes Architektur- und Platformverständnis

## Description

* Du entwickelst und betreibst unsere souveräne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur
 * Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking
 * Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher
 * Du etablierst Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste
 * Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter
 * Du automatisierst Deployments und verantwortest CI/CD-Prozesse für unsere Eigenentwicklungen
 * Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst für Stabilität, Sicherheit und Verfügbarkeit
 * Du baust Monitoring-, Logging- und Alerting-Lösungen auf und entwickelst diese weiter
 * Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit
 * Du etablierst Infrastructure as Code und standardisierte Deployment-Prozesse
 * Du sorgst für datenschutzkonforme und mandantensichere Betriebsmodelle
 * Du dokumentierst Lösungen, teilst Wissen im Team und evaluierst neue Technologien im Bereich Platform Engineering und KI


## Related Videos

- [Docker network without Docker](https://www.wearedevelopers.com/videos/1418-docker-network-without-docker)
- [From DevOps to Scaled DevOps: How We’re Rebuilding Continuous Delivery as a Platform](https://www.wearedevelopers.com/videos/100018-from-devops-to-scaled-devops-how-we-re-rebuilding-continuous-delivery-as-a-platform)
- [Docker Compose: Rediscovered](https://www.wearedevelopers.com/videos/1978-docker-compose-rediscovered)
- [AI-Augmented DevOps with Platform Engineering](https://www.wearedevelopers.com/videos/1614-ai-augmented-devops-with-platform-engineering)
- [Docker exec without Docker](https://www.wearedevelopers.com/videos/1094-docker-exec-without-docker)
- [Docker build without Docker](https://www.wearedevelopers.com/videos/100114-docker-build-without-docker)

## Related Articles

- [The Most Popular IT Jobs on the Market](https://www.wearedevelopers.com/magazine/376-the-most-popular-it-jobs-on-the-market)
- [The Biggest German Tech Companies](https://www.wearedevelopers.com/magazine/424-the-biggest-german-tech-companies)
- [Top-Paying Tech Jobs (with Salaries)](https://www.wearedevelopers.com/magazine/372-top-paying-tech-jobs-with-salaries)
- [Finding IT & Technology English-speaking Jobs in Germany ](https://www.wearedevelopers.com/magazine/446-finding-it-technology-english-speaking-jobs-in-germany)
- [How to Become an AI Engineer](https://www.wearedevelopers.com/magazine/331-how-to-become-an-ai-engineer)
- [Finding Jobs in Germany](https://www.wearedevelopers.com/magazine/375-finding-jobs-in-germany)