> Markdown version of [/jobs/ext/2429252-senior-cloud-ai-llmops-engineer](https://www.wearedevelopers.com/jobs/ext/2429252-senior-cloud-ai-llmops-engineer). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# Senior Cloud AI & LLMOps Engineer

- **Company:** BCM Solutions GmbH
- **Location:** Stuttgart, Germany (Remote available)
- **Experience:** Expert
- **Contract:** Permanent contract
- **Skills:** Application Programming Interfaces (APIs), Artificial Intelligence, Cloud Computing, DevOps, Enterprise Data Management, Large Language Models, Machine Learning Operations
- **Published:** August 3, 2026
- **Apply:** https://de.indeed.com/viewjob?jk=3fd6b21033770cba

## About the Role

* Ownership: Du übernimmst die Verantwortung für die Betriebsstabilität und strategische Architekturentscheidungen hochverfügbarer KI-Infrastrukturen.
 * Strategischer Weitblick: Du erkennst Technologietrends frühzeitig und überführst sie in zukunftssichere, stabile Betriebskonzepte.
 * Wissensmultiplikator: Du liebst es, dein Wissen aktiv an das Team weiterzugeben und komplexe Infrastrukturthemen verständlich zu vermitteln.
 * Deutsch (sehr gut) und Englisch (fließend) sowie ein abgeschlossenes IT-Studium oder eine vergleichbare Qualifikation.

## Description

* Architektur und Betrieb global skalierbarer Enterprise-Cloud-Infrastrukturen (Multi-Cloud, Hybrid) für geschäftskritische KI-Systeme.
 * LLMOps auf Enterprise-Ebene: End-to-End Tracing, Continuous Evaluation, Monitoring, automatisierte Test-Pipelines und Governance-Schnittstellen.
 * Performance- und Inferenz-Tuning von LLMs im Produktivbetrieb (Quantisierung, GPU-Auslastung, Serving-Optimierung via vLLM)., * Etablierung unternehmensweiter AI FinOps Strategien zur kontinuierlichen Kostenkontrolle und -optimierung.
 * Sicherheits- und Compliance-Standards (Enterprise Security, API-Security, Verschlüsselung) für hochsensible Unternehmensdaten.
 * Erfahrung in der fachlichen Leitung von DevOps- / Platform-Engineering-Teams und der Definition technischer Standards.


## Related Videos

- [From DevOps to Scaled DevOps: How We’re Rebuilding Continuous Delivery as a Platform](https://www.wearedevelopers.com/videos/100018-from-devops-to-scaled-devops-how-we-re-rebuilding-continuous-delivery-as-a-platform)
- [Green Cloud Computing](https://www.wearedevelopers.com/videos/592-green-cloud-computing)
- [Creating Industry ready solutions with LLM Models](https://www.wearedevelopers.com/videos/899-creating-industry-ready-solutions-with-llm-models)
- [Next Level Enterprise Architecture: Modular, Flexible, Scalable, Multichannel and AI-Ready?](https://www.wearedevelopers.com/videos/1017-next-level-enterprise-architecture-modular-flexible-scalable-multichannel-and-ai-ready)
- [DevOps Maturity Check – a way to balance autonomy and alignment](https://www.wearedevelopers.com/videos/58-devops-maturity-check-a-way-to-balance-autonomy-and-alignment)
- [DevOps for Machine Learning](https://www.wearedevelopers.com/videos/179-devops-for-machine-learning)

## Related Articles

- [The Biggest German Tech Companies](https://www.wearedevelopers.com/magazine/424-the-biggest-german-tech-companies)
- [Finding IT & Technology English-speaking Jobs in Germany ](https://www.wearedevelopers.com/magazine/446-finding-it-technology-english-speaking-jobs-in-germany)
- [Finding Jobs in Germany](https://www.wearedevelopers.com/magazine/375-finding-jobs-in-germany)
- [MLOps – What’s the deal behind it?](https://www.wearedevelopers.com/magazine/125-mlops-what-s-the-deal-behind-it)
- [The Most Popular IT Jobs on the Market](https://www.wearedevelopers.com/magazine/376-the-most-popular-it-jobs-on-the-market)
- [Best Coding Boot Camps in Germany](https://www.wearedevelopers.com/magazine/237-best-coding-boot-camps-in-germany)