> Markdown version of [/jobs/ext/3726059-devops-ai-architect](https://www.wearedevelopers.com/jobs/ext/3726059-devops-ai-architect). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# DevOps / AI Architect

- **Company:** indivHR
- **Location:** München, Germany
- **Contract:** Permanent contract
- **Skills:** Artificial Intelligence, Cloud Computing, Nvidia CUDA, Continuous Integration, Linux, DevOps, Domain Name System (DNS), Lightweight Directory Access Protocols (LDAP), Machine Learning, OAuth, Ansible, TCP/IP, Load Balancing, Retrieval-Augmented Generation, Large Language Models, HybridCloud, Firewalls (Computer Science), AI Platforms, Kubernetes, Infrastructure Automation Frameworks, Rancher, CrewAI, Ollama, Machine Learning Operations, TensorRT, Cloud Integration, VLLM, Docker
- **Published:** October 14, 2026
- **Apply:** https://www.careerjet.de/jobad/de17da4fdb8e047759fde576a7adb62631

## About the Role

Mehrjährige Erfahrung in der Architektur oder im Betrieb moderner KI-, Cloud- oder DevOps-Plattformen
Fundiertes Verständnis von Large Language Models, deren Architektur und Deployment-Anforderungen
Erfahrung mit KI-Anwendungen wie RAG, Document Intelligence, OCR oder Agentic AI
Kenntnisse in der Konfiguration von Inferenz-Servern wie vLLM, Ollama, Triton oder TensorRT
Verständnis multimodaler KI für Text, Vision und Bildgenerierung
Erfahrung mit KI-Frameworks wie LangChain, Pydantic, CrewAI oder vergleichbaren Technologien
Sehr gute Kenntnisse in Linux, Ansible, Infrastructure as Code und Automatisierung
Erfahrung mit Docker sowie Kubernetes, idealerweise mit Rancher
Gute Kenntnisse in GitOps, CI/CD und wiederholbaren Deployment-Prozessen
Solides Verständnis von TCP/IP, DNS, Load Balancing und Firewalls
Kenntnisse in Authentifizierungsverfahren wie OAuth2 oder LDAP
Fähigkeit, technische Zusammenhänge verständlich zu vermitteln und eigenständig Entscheidungen zu treffen
Sehr gute Deutsch- und Englischkenntnisse
Projektbezogene Reisebereitschaft
Das bringst Du idealerweise mit
Erfahrung mit Cloud- und Hybrid-Cloud-Architekturen sowie souveränen Cloud-Szenarien
Kenntnisse in MLOps, Model Serving, GPU-Infrastruktur und AI-Observability
Erfahrung mit Quantisierung, Sparse Models, CUDA Graphs, Torch Compile oder ähnlichen Optimierungsverfahren
Kenntnisse des Model Context Protocols
Erfahrung als Architekt, technischer Ansprechpartner, SPOC oder Teamlead
Erfahrung in Modernisierungsprogrammen und im Coaching technischer Teams
Cloud-, Kubernetes-, Ansible- oder KI-Zertifizierungen

## Description

Konzeption, Aufbau und Weiterentwicklung moderner KI-Plattformen in Cloud- und Hybridumgebungen
Entwicklung skalierbarer Zielarchitekturen und technischer Plattformstandards
Gestaltung sicherer GitOps-, CI/CD- und Infrastructure-as-Code-Frameworks
Betrieb, Optimierung und Troubleshooting von KI- und Machine-Learning-Workloads
Integration von LLMs, RAG-Anwendungen, Document Intelligence und multimodalen KI-Lösungen
Konzeption und Umsetzung von Agenten- und Multiagentensystemen
Auswahl, Konfiguration und Optimierung von Inferenz-Servern und KI-Modellen
Beratung zu Cloud-Integration, Souveränität, Security, Compliance und Skalierbarkeit
Durchführung technischer Reviews und Begleitung von Modernisierungsprogrammen
Coaching und fachliche Unterstützung von Engineers
Erstellung technischer Konzepte, Architekturentscheidungen und Betriebsdokumentationen
Verständliche Präsentation technischer Lösungsansätze gegenüber Kunden und Projektteams