> Markdown version of [/jobs/ext/4666576-ai-devops-engineer](https://www.wearedevelopers.com/jobs/ext/4666576-ai-devops-engineer). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# AI DevOps Engineer

- **Company:** UNITY AG
- **Location:** Stuttgart, Germany
- **Contract:** Permanent contract
- **Skills:** LangGraph Framework, Java (Programming Language), JavaScript (Programming Language), Application Programming Interfaces (APIs), Artificial Intelligence, Amazon Web Services, Microsoft Azure, Bash Shell, C Sharp (Programming Language), Cloud Computing, Continuous Integration, DevOps, Elasticsearch, Python (Programming Language), Machine Learning, Open Source Technology, Regression Testing, Ansible, Systems Integration, TypeScript, Qdrant, Google Cloud, LangChain, Retrieval-Augmented Generation, Large Language Models, Langfuse — LLM Observability and Analytics Platform, Agentic-AI, Pgvector, LangSmith, Kubernetes, Information Technology, CrewAI, AutoGen, Machine Learning Operations, Terraform, KServe
- **Published:** November 11, 2026
- **Apply:** https://www.adzuna.de/details/5961588897

## About the Role

* Mehrjährige Erfahrung in Entwicklung und Betrieb von Software.
 * Senior-Rolle: mehrjährige Praxis im Design und Betrieb produktiver Systeme
 * Solide DevOps-Basis: Container/Kubernetes, CI/CD, agiles Entwicklungsumfeld.
 * Cloud-Erfahrung (AWS, Azure oder GCP), Deployment als Container, API oder Serverless.
 * Praxis mit Infrastructure as Code (z. B. Terraform, Ansible, Helm oder GitOps).
 * Python plus mindestens eine weitere Sprache (Go, TypeScript/JavaScript, Java, C# oder Shell).
 * Grundverständnis von LLM-Systemen: RAG-Architekturen, Prompting, Agenten-Frameworks (z. B. LangChain, LangGraph, AutoGen, CrewAI).
 * Deutsch ab C1, Englisch ab B2 - sicher im Kundenkontakt, auch mal einen Workshop leiten.
 * Studienabschluss in (Wirtschafts-)Informatik, Data Science, KI oder vergleichbar - oder gleichwertige Praxis als Quereinsteiger* z.B. mit einer abgeschlossenen Ausbildung als Fachinformatiker * Systemintegration.

Idealterweise bringst du zusätzlich mit:

 * MLOps-/LLMOps-Praxis inkl. Evaluation von LLM-Pipelines.
 * AI-Observability-Tools (Langfuse, LangSmith, Arize, OpenTelemetry-basiert).
 * Vektordatenbanken (Elasticsearch, pgvector, Qdrant o. ä.) und MCP (Model Context Protocol).
 * Model Serving/GPU-Betrieb (vLLM, Ray, KServe, Triton), FinOps für KI-Workloads.
 * Eigene Open-Source-Projekte oder Community-Beiträge.
 * Bereitschaft zu gelegentlichem Bereitschaftsdienst (nur tagsüber, vergütet).

## Description

Das UNITY AI Booster Team ist UNITYs Entwicklereinheit für die Entwicklung und Implementierung von KI-Lösungen in den Geschäftsprozessen unserer Kunden. Wir entwickeln Lösungen mit hoher Technologiebandbreite, von Machine Learning Use Cases, LLM Use Cases oder eigenen Agentenplattformen. Anders als unsere Consultants sind wir näher am Code: Wir arbeiten im Projekt mit den Consultants und unserem Procurement X Team zusammen, bauen und betreiben aber die technische Plattform dahinter., Infrastruktur für produktive KI-Anwendungen bauen und betreiben - von der Dev-Umgebung über CI/CD bis zum stabilen Betrieb beim Kunden und außerdem:

 * LLM- und Agentic-AI-Systeme in Betrieb bringen: Inferenz- und Model-Serving-Endpunkte, Vektordatenbanken, RAG-Pipelines, MCP-Server - skalierbar, sicher, kostenbewusst.
 * Observability und Qualität verantworten: Latenzen, Token- und Infrastrukturkosten, Agenten-Tracing, automatisierte Eval- und Regressionstests.
 * Konsequent automatisieren statt Handarbeit: Infrastructure as Code, GitOps, containerisierte, reproduzierbare Deployments.
 * Sicherheit und Compliance sicherstellen: Secrets- und Zugriffsmanagement, Guardrails, Nachvollziehbarkeit nach EU AI Act.
 * Kunden bei Architektur- und Betriebsentscheidungen beraten - als technischer Sparringspartner*, nicht als Kundenmanager*., * Wie man KI-Systeme so baut, dass sie den EU AI Act überstehen, statt ihn nachträglich zu reparieren.
 * Den Sprung vom PoC zur produktiven, kosten- und latenzbewussten Plattform.