AI DevOps Engineer (all genders)

• Du betreibst unser self-hosted LiteLLM Gateway als zentralen Zugang zu LLMs (inkl. Key-, Budget- und Policy-Mechanismen) und entwickelst es gemeinsam mit uns weiter.
• Du integrierst die Azure AI Foundry in unser Plattformkonzept (Zugriffe, Observability, Governance), sodass Teams Agents und Modelle sauber in den Produktbetrieb bringen können.
• Du automatisierst und betreibst Anwendungen mit Hilfe von CI/CD-Praktiken und Infrastructure as Code (z. B. GitLab CI, Helm/ArgoCD), damit Änderungen reproduzierbar, auditierbar und schnell ausrollbar sind.
• Du etablierst Observability (Metrics/Logs/Tracing), SLOs und Incident-Prozesse für unsere KI-Services.
• Du unterstützt interne Nutzer*innen durch Templates, Runbooks und Self-Service, damit die Plattform einfach und sicher eingesetzt werden kann.
• Du entwickelst unsere AI Platform weiter, beispielsweise rund um MCP Server, Coding Tools und Agent Registry.

• IT, KI und skalierbare technische Lösungen begeistern dich - besonders dann, wenn sie echten Mehrwert schaffen
• Du hast Erfahrung mit AI-Plattformen und -Tools wie AI Foundry, LiteLLM, Open WebUI oder n8n
• IaC-Praxis (idealerweise modulare, wiederverwendbare Bausteine)
• Erfahrung im Betrieb containerisierter Plattformen (Kubernetes) und im Aufbau von CI/CD
• LLMOps-Erfahrung, z. B. mit RAG-Systemen, Inference-Workloads, Drift-/Qualitätsmonitoring, Guardrails/Policies und Kostenmetriken

Ein gutes Arbeitsumfeld ist uns sehr wichtig. Du kannst (und sollst) dir den Freiraum nehmen, deine Arbeit so zu gestalten, wie sie dir und deinen Stärken entspricht. Konkret heißt das, dass du Unterstützung bei deiner fachlichen und persönlichen Entwicklung bekommst. Hier eine kleine Auswahl unserer beliebtesten Benefits:

• Flexible Arbeitsorte und Arbeitszeiten
• Gesundheitsförderung mit eGym Wellpass, instahelp, Jobrad-Leasing und mehr
• Jobticket-Zuschuss: 80 % Übernahme des Deutschland-Tickets