> Markdown version of [/jobs/ext/2893971-ai-solution-architect](https://www.wearedevelopers.com/jobs/ext/2893971-ai-solution-architect). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md). --- # AI Solution Architect - **Company:** virtual7 GmbH - **Location:** Karlsruhe, Germany - **Contract:** Permanent contract - **Skills:** Artificial Intelligence, Amazon Web Services, Application Performance Management, Microsoft Azure, Cloud Computing, Continuous Integration, Python (Programming Language), Machine Learning, Tensorflow, Prometheus, Azure Machine Learning, Azure Data Lake, Google Cloud, Azure Data Factory, Pytorch, Large Language Models, Grafana, Prompt Engineering, Containerization, Scikit Learn, Kubernetes, Machine Learning Operations, Terraform, Docker, Databricks - **Published:** September 14, 2026 - **Apply:** https://www.adzuna.de/details/5882109097 ## About the Role * Fundierte Erfahrung mit cloudbasierten KI-/ML-Lösungen, idealerweise auf Microsoft Azure, insbesondere Azure Machine Learning und Azure OpenAI Service. Kenntnisse weiterer Cloud- und AI-Services sind von Vorteil. * Praktische Erfahrung mit MLOps-Konzepten und entsprechenden Werkzeugen wie MLflow, Kubeflow oder Azure ML Pipelines. * Erfahrung im Aufbau von RAG-Architekturen, Prompt Engineering und im Umgang mit Vektordatenbanken. * Kenntnisse in der Integration und Orchestrierung von Sprachmodellen, idealerweise mit Frameworks wie LangChain oder LlamaIndex. * Erfahrung mit CI/CD für ML-Anwendungen sowie sehr gute Python-Kenntnisse. * Praktische Erfahrung mit mindestens zwei gängigen Machine-Learning-Frameworks, beispielsweise scikit-learn, PyTorch oder TensorFlow. * Erfahrung im Aufbau von Enterprise-Architekturen in Cloud-Umgebungen. * Kenntnisse in angrenzenden Bereichen wie Datenplattformen, Containerisierung, Container-Orchestrierung, Infrastructure as Code und Observability sind von Vorteil, beispielsweise mit Databricks, Azure Data Factory, Azure Data Lake, Docker, Kubernetes, Terraform, Prometheus, Grafana oder Application Insights. * Grundlegendes Verständnis von AI Governance, Responsible AI sowie Sicherheits- und Datenschutzanforderungen im Enterprise-Umfeld. * Mehrjährige Erfahrung mit ML-/AI-Architekturen oder vergleichbaren technischen Aufgaben in Enterprise-Umgebungen. * Erfahrung in einer technischen Leitungs- oder Architekturrolle ist wünschenswert. * Azure-, AWS- oder Google-Cloud-Zertifizierungen sind ein Plus. * Idealerweise Erfahrung in der Energiebranche oder Versorgungswirtschaft sowie mit datengetriebenen Anwendungsfällen. * Sehr gute Deutschkenntnisse (C2-Niveau) sowie gute Englischkenntnisse. ## Description Als AI Solution Architect (m/w/d) gestaltest Du die KI-/ML-Gesamtarchitektur für komplexe Enterprise-Umgebungen in der Cloud mit Schwerpunkt Microsoft Azure. Du verbindest fundiertes Know-how in ML Engineering, RAG-Architekturen und MLOps, um KI-Lösungen produktionsreif, skalierbar und sicher umzusetzen. Dabei arbeitest Du eng mit technischen Expert:innen, Fachbereichen und Entscheidungsträgern zusammen und trägst maßgeblich dazu bei, innovative KI-Lösungen erfolgreich zu etablieren., * Entwurf und Weiterentwicklung der KI-/ML-Gesamtarchitektur als Enterprise-KI-Plattform mit Schwerpunkt Microsoft Azure * Technische Leitung von ML-Pipeline-Projekten, insbesondere in den Bereichen Training, Deployment, Monitoring und Drift Detection * Konzeption und Optimierung von RAG-Architekturen, beispielsweise hinsichtlich Chunking, Retrieval, Guardrails und Context Orchestration * Definition und Weiterentwicklung von MLOps-Strategien einschließlich CI/CD für Modelle, Experiment-Tracking und Model Registry * Technische Führung und Koordination interdisziplinärer Teams aus ML/AI Engineers, LLM Engineers und MLOps Engineers * Beratung interner und externer Stakeholder zu KI-Architekturen sowie Präsentation technischer Konzepte gegenüber IT-Leitung und Fachbereichen ## Related Videos - [Docker Compose: Rediscovered](https://www.wearedevelopers.com/videos/1978-docker-compose-rediscovered) - [5 steps for running a Kubernetes environment at scale](https://www.wearedevelopers.com/videos/88-5-steps-for-running-a-kubernetes-environment-at-scale) - [Photonic Computing: Programming a New Class of AI Accelerators (incl. Live Coding)](https://www.wearedevelopers.com/videos/100196-photonic-computing-programming-a-new-class-of-ai-accelerators-incl-live-coding) - [Reference Architecture of AI in the Cloud](https://www.wearedevelopers.com/videos/1613-reference-architecture-of-ai-in-the-cloud) - [Docker build without Docker](https://www.wearedevelopers.com/videos/100114-docker-build-without-docker) - [Agentic AI - From Theory to Practice: Developing Multi-Agent AI Systems on Azure](https://www.wearedevelopers.com/videos/1532-agentic-ai-from-theory-to-practice-developing-multi-agent-ai-systems-on-azure) ## Related Articles - [MLOps – What’s the deal behind it?](https://www.wearedevelopers.com/magazine/125-mlops-what-s-the-deal-behind-it) - [How to Become an AI Engineer](https://www.wearedevelopers.com/magazine/331-how-to-become-an-ai-engineer) - [Best Coding Boot Camps in Germany](https://www.wearedevelopers.com/magazine/237-best-coding-boot-camps-in-germany) - [The Most Popular IT Jobs on the Market](https://www.wearedevelopers.com/magazine/376-the-most-popular-it-jobs-on-the-market) - [Stephan Gillich - Bringing AI Everywhere](https://www.wearedevelopers.com/magazine/489-stephan-gillich-bringing-ai-everywhere) - [Got AI ideas but no money? Here are 10 free ways to level up your AI skills with Google Cloud](https://www.wearedevelopers.com/magazine/600-got-ai-ideas-but-no-money-here-are-10-free-ways-to-level-up-your-ai-skills-with-google-cloud)