> Markdown version of [/jobs/ext/128015-cloud-engineer-mit-fokus-auf-ai-services](https://www.wearedevelopers.com/jobs/ext/128015-cloud-engineer-mit-fokus-auf-ai-services). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# Cloud Engineer mit Fokus auf AI Services

- **Company:** Landesbank Baden-Wuerttemberg
- **Location:** Stuttgart, Germany
- **Contract:** Permanent contract
- **Skills:** Artificial Intelligence, Application Performance Management, Microsoft Azure, Cloud Computing, Cloud Engineering, Continuous Integration, Github, Network Architecture, Data Logging, Cloud Monitoring, Autoscaling, Information Technology, Bicep, Terraform, Api Management
- **Published:** May 24, 2026
- **Apply:** https://de.indeed.com/viewjob?jk=e12fcfda1ff5155d

## About the Role

* Abgeschlossenes Studium der (Wirtschafts-)Informatik oder eine vergleichbare Qualifikation
 * Erfahrung im Cloud- und Infrastruktur-Umfeld, idealerweise mit großen, produktiven Umgebungen
 * Praxis mit Infrastructure as Code, CI/CD und dem Betrieb von Cloud-Workloads
 * Verständnis von Security, Governance und Netzwerkarchitekturen in Cloud-Umgebungen
 * Erfahrung mit Monitoring-, Logging- und Tracing-Lösungen (z.B. Azure Monitor, Application Insights)
 * Strukturierte, qualitätsbewusste und eigenverantwortliche Arbeitsweise
 * Teamorientiert und kommunikativ, sicher im Austausch mit Entwicklung, Architektur, Security, Betrieb und Fachbereichen
 * Pragmatisch und belastbar, mit Freude daran, eine robuste und transparente Plattform für viele Teams bereitzustellen
 * Sehr gute Deutschkenntnisse in Wort und Schrift

## Description

* Konzeption, Implementierung und Betrieb von AI- und LLM-Plattformkomponenten (z.B. Azure OpenAI, eigene LLM-Deployments, Vektordatenbanken, Retrieval-/RAG-Services) sowie Anbindung interner Systeme (REST-APIs, Datenbanken, Fachanwendungen)
 * Aufbau der technischen Grundlage für LLM-Endpunkte, Tool-/Function Calling, Orchestrierung und MCP-Server sowie Integration in bestehende Systemlandschaften und Agentic-AI-Szenarien
 * Anbindung relevanter Datenquellen (z.B. Datenbanken, DWH, Datalake, Dokumenten-Repositories) inklusive Rollen- und Berechtigungskonzepten sowie Mitarbeit an Security- und Guardrail-Konzepten (ID- und API-Management, Content Filtering, Schutz vor Datenabfluss
 * Umsetzung und Pflege von Infrastructure as Code (z.B. Terraform, Bicep) sowie Integration der Plattform- und Observability-Komponenten in CI/CD-Pipelines (Azure DevOps, GitHub Actions) auf Basis definierter Plattform-Standards, Referenzarchitekturen und Landing Zones
 * Aufbau und Weiterentwicklung von Observability-Konzepten für AI-Services (Latenz, Fehlerraten, Ressourcen, Kosten, Nutzungsmuster) inklusive Implementierung von Monitoring-, Logging- und Tracing-Lösungen (z.B. Azure Monitor, Application Insights, Dashboards, Alerts, SLIs/SLOs) sowie Mitarbeit an Auto-Scaling-, Limits-, Quotas- und Cost-Alerting-Konzepten
 * Mitarbeit im Incident- und Problem-Management (Ursachenanalyse, Verbesserungsmaßnahmen), Erstellung von Runbooks, Playbooks, Best Practices und Architekturunterlagen zu Skalierung, Observability, Sicherheit und Kosten sowie Beratung von Projekten zur optimalen Nutzung der KI-Plattform


## Related Videos

- [Infrastructure as Code: The Developer's Secret Weapon](https://www.wearedevelopers.com/videos/1221-infrastructure-as-code-the-developer-s-secret-weapon)
- [Innovating Developer Tools with AI: Insights from GitHub Next](https://www.wearedevelopers.com/videos/1268-innovating-developer-tools-with-ai-insights-from-github-next)
- [Back(end) to the Future: Embracing the continuous Evolution of Infrastructure and Code](https://www.wearedevelopers.com/videos/440-back-end-to-the-future-embracing-the-continuous-evolution-of-infrastructure-and-code)
- [Breaking Silos: Successful Collaboration Between Tech & Business Teams in Complex Enterprise Systems](https://www.wearedevelopers.com/videos/1623-breaking-silos-successful-collaboration-between-tech-business-teams-in-complex-enterprise-systems)
- [Implementing Feature Environments with AWS and Terraform](https://www.wearedevelopers.com/videos/531-implementing-feature-environments-with-aws-and-terraform)
- [Bringing AI Model Testing and Prompt Management to Your Codebase with GitHub Models](https://www.wearedevelopers.com/videos/1536-bringing-ai-model-testing-and-prompt-management-to-your-codebase-with-github-models)

## Related Articles

- [Best Coding Boot Camps in Germany](https://www.wearedevelopers.com/magazine/237-best-coding-boot-camps-in-germany)
- [The Biggest German Tech Companies](https://www.wearedevelopers.com/magazine/424-the-biggest-german-tech-companies)
- [Where to Find German Tech Jobs](https://www.wearedevelopers.com/magazine/366-where-to-find-german-tech-jobs)
- [Top-Paying Tech Jobs (with Salaries)](https://www.wearedevelopers.com/magazine/372-top-paying-tech-jobs-with-salaries)
- [The Most Popular IT Jobs on the Market](https://www.wearedevelopers.com/magazine/376-the-most-popular-it-jobs-on-the-market)
- [IT Salaries in Germany](https://www.wearedevelopers.com/magazine/287-it-salaries-in-germany)