> Markdown version of [/jobs/ext/3812061-senior-cloud-ai-llmops-engineer](https://www.wearedevelopers.com/jobs/ext/3812061-senior-cloud-ai-llmops-engineer). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# Senior Cloud AI & LLMOps Engineer

- **Company:** BCM Solutions GmbH
- **Location:** Stuttgart, Germany (Remote available)
- **Experience:** Expert
- **Contract:** Permanent contract
- **Skills:** Application Programming Interfaces (APIs), Artificial Intelligence, Cloud Computing, DevOps, Enterprise Data Management, Large Language Models, Multi-Cloud, Machine Learning Operations
- **Published:** October 18, 2026
- **Apply:** https://www.careerjet.de/jobad/debfeaa0c9d6e2d332efa08ba355354be8

## About the Role

* Ownership: Du übernimmst die Verantwortung für die Betriebsstabilität und strategische Architekturentscheidungen hochverfügbarer KI-Infrastrukturen.
 * Strategischer Weitblick: Du erkennst Technologietrends frühzeitig und überführst sie in zukunftssichere, stabile Betriebskonzepte.
 * Wissensmultiplikator: Du liebst es, dein Wissen aktiv an das Team weiterzugeben und komplexe Infrastrukturthemen verständlich zu vermitteln.
 * Deutsch (sehr gut) und Englisch (fließend) sowie ein abgeschlossenes IT-Studium oder eine

## Description

Enterprise AI Operations: Du konzipierst und verantwortest die global skalierbare Betriebsinfrastruktur (Infrastruktur-Design) für geschäftskritische KI-Systeme.

 * High-End Optimization: Du leitest komplexe Inferenz-Optimierungsprojekte, etablierst fortgeschrittene Quantisierungs-Verfahren und minimierst Systemlatenzen.
 * Global FinOps Governance: Du setzt unternehmensweite Richtlinien zur Budgetkontrolle und Kosteneffizienz im Bereich rechenintensiver KI-Anwendungen um., * Architektur und Betrieb global skalierbarer Enterprise-Cloud-Infrastrukturen (Multi-Cloud, Hybrid) für geschäftskritische KI-Systeme.
 * LLMOps auf Enterprise-Ebene: End-to-End Tracing, Continuous Evaluation, Monitoring, automatisierte Test-Pipelines und Governance-Schnittstellen.
 * Performance- und Inferenz-Tuning von LLMs im Produktivbetrieb (Quantisierung, GPU-Auslastung, Serving-Optimierung via vLLM).

Sehr gute Kenntnisse

 * Etablierung unternehmensweiter AI FinOps Strategien zur kontinuierlichen Kostenkontrolle und -optimierung.
 * Sicherheits- und Compliance-Standards (Enterprise Security, API-Security, Verschlüsselung) für hochsensible Unternehmensdaten.
 * Erfahrung in der fachlichen Leitung von DevOps- / Platform-Engineering-Teams und der Definition technischer Standards.