> Markdown version of [/jobs/ext/4701239-ai-ml-ops-engineer](https://www.wearedevelopers.com/jobs/ext/4701239-ai-ml-ops-engineer). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# AI/ML Ops Engineer

- **Company:** United Internet AG
- **Location:** Karlsruhe, Germany
- **Contract:** Permanent contract
- **Skills:** Artificial Intelligence, Cloud Computing, Continuous Integration, DevOps, Python (Programming Language), Machine Learning, Software Engineering, Management of Software Versions, Data Logging, Tso/ispf, Kubernetes, Information Technology, Machine Learning Operations, Docker
- **Published:** November 13, 2026
- **Apply:** https://jobs.meinestadt.de/karlsruhe/standard?id=260656890

## About the Role

Erfolgreich abgeschlossenes Studium, z. B. in Informatik, Software Engineering oder einem vergleichbaren Studiengang
Mehrjährige Erfahrung im DevOps- oder MLOps-Umfeld
Fundierte Kenntnisse in Container-Technologien (Docker) und Orchestrierung (Kubernetes)
Erfahrung mit CI/CD-Systemen und automatisierten Deployment-Prozessen
Praxis im Umgang mit Monitoring-, Logging- und Tracking-Tools
Gute Python-Kenntnisse zur Automatisierung von Prozessen
Erfahrung im Bereich LLMOps bzw. Betrieb von GenAI-Anwendungen
Kenntnisse relevanter Standards (z. B. ISO/IEC 42001)
Erfahrung mit hybriden Infrastrukturumgebungen (Cloud & On-Premise)

## Description

Infrastruktur
Machine Learning
Kubernetes
Breitband
Internet
Software-Engineering
Cloud
Informatik
Python
Docker
Optimierung
Continuous Integration
DevOps
Engineering
Automatisierung, In dieser Rolle stellen Sie den stabilen, skalierbaren Betrieb moderner ML- und GenAI-Systeme sicher und bauen eine durchgängige Delivery-Kette von der Entwicklung bis zur produktiven Nutzung auf.

Aufbau und Betrieb von CI/CD/CT-Pipelines für Machine-Learning-Modelle und GenAI-Anwendungen (inkl. Prompt-Workflows)
Implementierung und Verwaltung von Model Registry, Versionierung und Deployment-Prozessen
Deployment von AI-Services in produktiven Umgebungen mittels Docker und Kubernetes
Monitoring und Optimierung von Modell-Performance (z. B. Drift, Latenz, Kosten, Verfügbarkeit)
Sicherstellung von Skalierbarkeit, Stabilität und Wiederholbarkeit von ML-Workflows
Erstellung auditfähiger Artefakte (z. B. Model Cards, Logs, Dokumentation)
Enge Zusammenarbeit mit Data Scientists, AI/ML Engineers und Plattform-Teams
Weiterentwicklung von Best Practices im Bereich MLOps und AI-Betrieb