AI DevOps Engineer (all Levels)

Das UNITY AI Booster Team ist UNITYs Entwicklereinheit für die Entwicklung und Implementierung von KI-Lösungen in den Geschäftsprozessen unserer Kunden. Wir entwickeln Lösungen mit hoher Technologiebandbreite, von Machine Learning Use Cases, LLM Use Cases oder eigenen Agentenplattformen. Anders als unsere Consultants sind wir näher am Code: Wir arbeiten im Projekt mit den Consultants zusammen, bauen und betreiben aber die technische Plattform dahinter., Infrastruktur für produktive KI-Anwendungen bauen und betreiben - von der Dev-Umgebung über CI/CD bis zum stabilen Betrieb beim Kunden und außerdem:

• LLM- und Agentic-AI-Systeme in Betrieb bringen: Inferenz- und Model-Serving-Endpunkte, Vektordatenbanken, RAG-Pipelines, MCP-Server - skalierbar, sicher, kostenbewusst.
• Observability und Qualität verantworten: Latenzen, Token- und Infrastrukturkosten, Agenten-Tracing, automatisierte Eval- und Regressionstests.
• Konsequent automatisieren statt Handarbeit: Infrastructure as Code, GitOps, containerisierte, reproduzierbare Deployments.
• Sicherheit und Compliance sicherstellen: Secrets- und Zugriffsmanagement, Guardrails, Nachvollziehbarkeit nach EU AI Act.
• Kunden bei Architektur- und Betriebsentscheidungen beraten - als technischer Sparringspartner, nicht als Kundenmanager., * Wie man KI-Systeme so baut, dass sie den EU AI Act überstehen, statt ihn nachträglich zu reparieren.
• Den Sprung vom PoC zur produktiven, kosten- und latenzbewussten Plattform., * Wer beim PoC aufhört und Produktionsbetrieb für das Problem von jemand anderem hält.
• Wer Kundenkontakt komplett vermeiden will - ihr sprecht mit IT-Verantwortlichen auf Augenhöhe, das gehört dazu.
• Wer lieber Tools evaluiert, als Systeme zu verantworten, die nachts nicht ausfallen dürfen.

• Mehrjährige Erfahrung in Entwicklung und Betrieb von Software.

• Senior-Rolle: mehrjährige Praxis im Design und Betrieb produktiver Systeme

Solide DevOps-Basis: Container/Kubernetes, CI/CD, agiles Entwicklungsumfeld.

Cloud-Erfahrung (AWS, Azure oder GCP), Deployment als Container, API oder Serverless.

Praxis mit Infrastructure as Code (z. B. Terraform, Ansible, Helm oder GitOps).

Python plus mindestens eine weitere Sprache (Go, TypeScript/JavaScript, Java, C# oder Shell).

Grundverständnis von LLM-Systemen: RAG-Architekturen, Prompting, Agenten-Frameworks (z. B. LangChain, LangGraph, AutoGen, CrewAI).

Deutsch ab C1, Englisch ab B2 - sicher im Kundenkontakt, auch mal einen Workshop leiten.

Studienabschluss in (Wirtschafts-)Informatik, Data Science, KI oder vergleichbar - oder gleichwertige Praxis als Quereinsteiger* z.B. mit einer abgeschlossenen Ausbildung als Fachinformatiker * Systemintegration.

Idealterweise bringst du zusätzlich mit:

• MLOps-/LLMOps-Praxis inkl. Evaluation von LLM-Pipelines.
• AI-Observability-Tools (Langfuse, LangSmith, Arize, OpenTelemetry-basiert).
• Vektordatenbanken (Elasticsearch, pgvector, Qdrant o. ä.) und MCP (Model Context Protocol).
• Model Serving/GPU-Betrieb (vLLM, Ray, KServe, Triton), FinOps für KI-Workloads.
• Eigene Open-Source-Projekte oder Community-Beiträge.
• Bereitschaft zu gelegentlichem Bereitschaftsdienst (nur tagsüber, vergütet).

Verwirkliche mit uns deine Big Five for Life** in einer Kultur, die geprägt ist von Vertrauen, Authentizität und Zusammenhalt.

Benefits, über die du dich bald freuen kannst:

• Verwirklichung eigener Ideen sowie unternehmerischer Freiraum
• Flexible Arbeitsmodelle (u. a. HomeOffice Möglichkeit)
• Sabbaticals
• Persönliches Coaching, Mentoring & UNITYacademy
• JobRad, UrbanSports uvm.

UNITY ist die Managementberatung für Innovation und digitale Transformation. Dabei setzen wir insbesondere auf Künstliche Intelligenz als Schlüsseltechnologie für Effizienz und Wachstum. Mit 380 Mitarbeitern sind wir weltweit an 15 Standorten vertreten und führen rund um den Globus Kundenprojekte durch.

Unsere Standorte, an denen du deutschlandweit arbeiten kannst: Berlin, Braunschweig, Frankfurt a. M., Hamburg, Köln, München, Nürnberg, Paderborn/Büren oder Stuttgart.

^* UNITY lebt Vielfalt und Chancengleichheit. Bei uns ist jeder unabhängig von Herkunft, Geschlecht, sexueller Orientierung, Handicap, Religion und Alter willkommen. ^** Die Big5forLife sind ein Coaching-Impuls aus dem Bereich der individuellen Visions-Bildung von John Strelecky.