> Markdown version of [/jobs/ext/3746274-ai-platform-engineer-mlops-llmops](https://www.wearedevelopers.com/jobs/ext/3746274-ai-platform-engineer-mlops-llmops). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# AI Platform Engineer MLOps & LLMOps

- **Company:** Msg
- **Location:** Frankfurt am Main, Germany
- **Contract:** Permanent contract
- **Skills:** Artificial Intelligence, Continuous Delivery, Continuous Integration, DevOps, Integrated Development Environments, Machine Learning, OpenShift, Large Language Models, Kubernetes, Infrastructure Automation Frameworks, Information Technology, Machine Learning Operations
- **Published:** October 15, 2026
- **Apply:** https://jobs.meinestadt.de/frankfurt-am-main/standard?id=260346367

## About the Role

* Abgeschlossenes Studium der Informatik, Wirtschaftsinformatik, Data Science oder eine vergleichbare Qualifikation
 * Mehrjährige praktische Erfahrung im Platform Engineering, DevOps oder Betrieb von Kubernetes- bzw. OpenShift-Umgebungen
 * Gute Kenntnisse in Container-Technologien, Automatisierung und Infrastructure-as-Code sowie Erfahrung mit CI/CD- und Betriebsprozessen
 * Grundlegendes Verständnis von GPU-basierten Workloads sowie Erfahrung mit AI-, Machine-Learning- oder MLOps-Plattformen von Vorteil
 * Erfahrung mit MLOps oder LLMOps, insbesondere im Betrieb von Modellen, Model Serving, Pipelines, Evaluierung oder Monitoring, von Vorteil
 * Strukturierte und selbstständige Arbeitsweise sowie gute Deutsch- und Englischkenntnisse und Bereitschaft zur Durchführung einer Sicherheitsüberprüfung

## Description

Machine Learning
Infrastruktur
Kubernetes
Berufserfahrung
Informatik
Administration
Englisch
Optimierung
Analyse
Entwicklungsumgebungen
Wirtschaftsinformatik
DevOps
Continuous Integration
OpenShift
Engineering
Automatisierung
Deutsch
Zuverlässigkeit, Als "AI Platform Engineer MLOps und LLMOps (w/m/d)" gestalten Sie den stabilen und skalierbaren Betrieb dieser Plattform und entwickeln sie kontinuierlich weiter. Dabei arbeiten Sie an der Schnittstelle von Platform Engineering, DevOps, MLOps und LLMOps und überführen Anforderungen aus AI-Entwicklung und Data Science in zuverlässige Plattformservices., * Betrieb und Weiterentwicklung der AI- und Machine-Learning-Plattform auf Kubernetes und OpenShift

 * Administration, Bereitstellung und Troubleshooting von Entwicklungsumgebungen, Modellen, Pipelines sowie Trainings- und Inference-Workloads
 * Betrieb und Optimierung von GPU-basierten Workloads sowie von Model-Serving- und Inference-Services für Large Language Models
 * Weiterentwicklung und Automatisierung von MLOps- und LLMOps-Prozessen, unter anderem für Modell-Lifecycle, Deployments, Evaluierung und Monitoring
 * Automatisierung von Infrastruktur- und Deployment-Prozessen mit Infrastructure-as-Code, Continuous Integration und Continuous Delivery (CI/CD) sowie Aufbau von Monitoring und Observability
 * Unterstützung von AI-Entwicklungs- und Data-Science-Teams bei der Nutzung und Weiterentwicklung der Plattform sowie Analyse und Behebung technischer Störungen

## About msg

Der digitale Wandel ist jetzt – und er ist überall.

Egal ob Cloud, KI oder die Technologien von morgen – bei msg bist du im Software-Engineering oder IT-Consulting hautnah dabei und kannst mit uns gemeinsam wachsen.

Denn msg ist eine unabhängige, internationale Unternehmensgruppe mit eigenständigen Gesellschaften und über 10.000 Mitarbeitenden. Unsere Kernkompetenz: intelligente und nachhaltig wertschöpfende IT- und Branchenlösungen, mit denen wir unseren Kunden in agilen Projekten neue Weg...
**Tech Stack:** Java, Cloud (AWS/Google/Azure) , SAP HANA, ABAP, DevOps, Scrum, Kubernetes, C#, .NET, Java EE, Go, REST, GraphQL, Spring, Python, Quarkus
**Industries:** Cloud Computing, Consulting, Enterprise Software, Information Tech, Security, Computer Software

[Company profile](https://www.wearedevelopers.com/companies/3779-msg)

### More Jobs at msg

- [(Senior) Consultant SAP Business Technology Platform (all genders) - Consulting, Ingenieur](https://www.wearedevelopers.com/jobs/ext/3794569-senior-consultant-sap-business-technology-platform-all-genders-consulting-ingenieur)
- [(Senior) Consultant Data Analytics (all genders) - Consulting, Ingenieur](https://www.wearedevelopers.com/jobs/ext/3791376-senior-consultant-data-analytics-all-genders-consulting-ingenieur)
- [(Senior) Consultant SAP Business Technology Platform (all genders) - Consulting, Ingenieur](https://www.wearedevelopers.com/jobs/ext/3791233-senior-consultant-sap-business-technology-platform-all-genders-consulting-ingenieur)
- [(Senior) Consultant Data Analytics (all genders) - Consulting, Ingenieur](https://www.wearedevelopers.com/jobs/ext/3791113-senior-consultant-data-analytics-all-genders-consulting-ingenieur)
- [(Junior) Technical SAP Consultant (all genders) - Consulting, Ingenieur](https://www.wearedevelopers.com/jobs/ext/3794571-junior-technical-sap-consultant-all-genders-consulting-ingenieur)