> Markdown version of [/jobs/ext/2676173-ai-solution-architect-virtual7-gmbh](https://www.wearedevelopers.com/jobs/ext/2676173-ai-solution-architect-virtual7-gmbh). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# AI Solution Architect - virtual7 GmbH

- **Company:** virtual7 GmbH
- **Location:** Karlsruhe, Germany
- **Contract:** Permanent contract
- **Skills:** Application Programming Interfaces (APIs), Artificial Intelligence, Application Performance Management, Microsoft Azure, Cloud Computing, Continuous Integration, Python (Programming Language), Machine Learning, Tensorflow, Prometheus, Azure Machine Learning, Azure Data Lake, Azure Data Factory, Pytorch, Large Language Models, Grafana, Prompt Engineering, Containerization, Scikit Learn, Kubernetes, Machine Learning Operations, Terraform, Docker, Databricks
- **Published:** September 2, 2026
- **Apply:** https://www.adzuna.de/details/5863811383

## About the Role

**Das ist uns wichtig:** - Fundierte Erfahrung mit Azure-basierten KI-/ML-Lösungen, insbesondere mit Azure Machine Learning und Azure OpenAI Service; Kenntnisse weiterer Azure AI Services sind von Vorteil. - Praktische Erfahrung mit MLOps-Konzepten und entsprechenden Werkzeugen, beispielsweise MLflow, Kubeflow oder Azure ML Pipelines. - Erfahrung im Aufbau von RAG-Architekturen, im Prompt Engineering und im Umgang mit Vektordatenbanken sowie Kenntnisse in der Integration von Sprachmodellen über APIs. Erfahrung mit Orchestrierungsframeworks wie LangChain oder LlamaIndex ist von Vorteil. - Erfahrung mit CI/CD für ML-Anwendungen sowie sichere Python-Kenntnisse. Praktische Erfahrung mit mindestens zwei gängigen Machine-Learning-Frameworks, beispielsweise scikit-learn, PyTorch oder TensorFlow. - Erfahrung im Aufbau von Enterprise-Architekturen in Cloud-Umgebungen. Kenntnisse in angrenzenden Bereichen wie Datenplattformen, Containerisierung, Container-Orchestrierung, Infrastructure as Code
und Observability sind von Vorteil, beispielsweise mit Databricks, Azure Data Factory, Azure Data Lake, Docker, Kubernetes, Terraform, Prometheus, Grafana oder Application Insights. - Verständnis für Governance-, Sicherheits- und Compliance-Anforderungen in regulierten Umgebungen. Kenntnisse relevanter Standards und Regelwerke wie ISO 27001, NIS2, BSI-Vorgaben oder dem EU AI Act sowie entsprechender Governance-Werkzeuge sind von Vorteil. - Mehrjährige Erfahrung mit ML-/AI-Architekturen oder vergleichbaren technischen Aufgaben in Enterprise-Umgebungen. - Erfahrung in einer technischen Leitungs- oder Architekturrolle ist wünschenswert; einschlägige Azure-Zertifizierungen sind ein Plus. - Idealerweise Erfahrung in der Energiebranche oder Versorgungswirtschaft, mit Predictive Maintenance, Zeitreihenanalysen oder öffentlichen Vergabeverfahren wie VgV und EVB-IT.

## Description

Entwurf und Weiterentwicklung der KI-/ML-Gesamtarchitektur auf Azure als Enterprise-KI-Plattform.
-Technische Leitung von ML-Pipeline-Projekten, insbesondere in den Bereichen Training, Deployment, Monitoring und Drift Detection, sowie Konzeption und Optimierung von RAG-Architekturen, beispielsweise hinsichtlich Chunking, Retrieval, Guardrails und Context Orchestration.
-Definition von MLOps-Strategien einschließlich CI/CD für Modelle, Experiment-Tracking und Model Registry.
-Technische Führung und Koordination eines interdisziplinären Teams aus ML/AI Engineers, LLM Engineers und MLOps Engineers.
-Beratung zu AI Governance, Responsible AI und EU-AI-Act-Compliance sowie Stakeholder-Management durch Architekturpräsentationen gegenüber IT-Leitung und Fachbereichen.


## Related Videos

- [Docker Compose: Rediscovered](https://www.wearedevelopers.com/videos/1978-docker-compose-rediscovered)
- [Photonic Computing: Programming a New Class of AI Accelerators (incl. Live Coding)](https://www.wearedevelopers.com/videos/100196-photonic-computing-programming-a-new-class-of-ai-accelerators-incl-live-coding)
- [5 steps for running a Kubernetes environment at scale](https://www.wearedevelopers.com/videos/88-5-steps-for-running-a-kubernetes-environment-at-scale)
- [Agentic AI - From Theory to Practice: Developing Multi-Agent AI Systems on Azure](https://www.wearedevelopers.com/videos/1532-agentic-ai-from-theory-to-practice-developing-multi-agent-ai-systems-on-azure)
- [Docker build without Docker](https://www.wearedevelopers.com/videos/100114-docker-build-without-docker)
- [Azure AI Foundry for Developers: Open Tools, Scalable Agents, Real Impact](https://www.wearedevelopers.com/videos/1541-azure-ai-foundry-for-developers-open-tools-scalable-agents-real-impact)

## Related Articles

- [How to Become an AI Engineer](https://www.wearedevelopers.com/magazine/331-how-to-become-an-ai-engineer)
- [MLOps – What’s the deal behind it?](https://www.wearedevelopers.com/magazine/125-mlops-what-s-the-deal-behind-it)
- [The Most Popular IT Jobs on the Market](https://www.wearedevelopers.com/magazine/376-the-most-popular-it-jobs-on-the-market)
- [What Industries Outside of AI Are Hiring The Most AI Experts?](https://www.wearedevelopers.com/magazine/98-what-industries-outside-of-ai-are-hiring-the-most-ai-experts)
- [The Biggest German Tech Companies](https://www.wearedevelopers.com/magazine/424-the-biggest-german-tech-companies)
- [Best Coding Boot Camps in Germany](https://www.wearedevelopers.com/magazine/237-best-coding-boot-camps-in-germany)