Lead AI Solution Architect / Lead GenAI Architect

Gesucht wird eine Persönlichkeit, die nicht nur KI-Architekturen konzipiert, sondern diese auch technisch umsetzen kann. Im Mittelpunkt stehen die Architektur und Integration moderner Large Language Models (LLMs), der Aufbau produktiver GenAI-Plattformen sowie die Entwicklung intelligenter AI-Agenten und RAG-basierter Lösungen.

Das Projekt findet in einem On-Prem- bzw. Sovereign-Cloud-Umfeld statt. Daher sind Erfahrungen mit entsprechenden Infrastruktur- und Architekturkonzepten von großem Vorteil.

Aufgaben:

• Architektur, Konzeption und technische Umsetzung moderner Generative-AI-Lösungen

• Entwicklung und Integration produktiver Large-Language-Model-(LLM)-Anwendungen

• Aufbau skalierbarer RAG- und GraphRAG-Architekturen

• Entwicklung von AI Agents und Multi-Agent-Systemen

• Implementierung von Model Context Protocol (MCP), Tool Calling und Function Calling

• Konzeption von LLM-Gateways, Model Routing und Multi-LLM-Architekturen

• Integration von KI-Lösungen in bestehende Unternehmens- und Fachanwendungen

• Entwicklung performanter Python-Services und REST-APIs

• Aufbau containerbasierter Deployments mit Docker und Kubernetes

• Umsetzung von CI/CD-, LLMOps- und Observability-Konzepten

• Erstellung technischer Architekturkonzepte und Unterstützung der Entwicklungsteams

• Enge Zusammenarbeit mit Fachbereichen und technischen Stakeholdern

Mehrjährige Erfahrung als AI Solution Architect, GenAI Architect oder in einer vergleichbaren technischen Architekturrolle

• Mindestens 2-3 erfolgreich umgesetzte Projekte im Bereich Generative AI oder Large Language Models

• Tiefes technisches Verständnis moderner Large Language Models (LLMs) und deren Architektur

• Praktische Erfahrung in der Entwicklung und Integration produktiver LLM-Lösungen

• Idealerweise Erfahrung mit Fine-Tuning, Modellanpassung oder Evaluierung von LLMs

• Sehr gute Kenntnisse in Retrieval Augmented Generation (RAG) sowie idealerweise GraphRAG

• Erfahrung mit AI Agents, Multi-Agent-Systemen, Model Context Protocol (MCP), Tool Calling und Function Calling

• Erfahrung mit Frameworks wie LangChain, LangGraph, LlamaIndex oder vergleichbaren Technologien

• Kenntnisse im Einsatz von Vektor-Datenbanken, semantischer Suche und Embedding-Technologien

• Sehr gute Kenntnisse in Python, FastAPI, REST-APIs und Microservice-Architekturen

• Erfahrung mit Docker, Kubernetes, CI/CD sowie produktiven KI-Deployments

• Erfahrung mit On-Prem-Infrastrukturen, Sovereign Cloud oder vergleichbaren Enterprise-Umgebungen

• Sehr gute Deutschkenntnisse in Wort und Schrift (mindestens C1)

• Erfahrung mit Azure OpenAI, AWS Bedrock, Azure AI Foundry, Google Vertex AI oder vergleichbaren Enterprise-KI-Plattformen

• Kenntnisse in LLMOps, Monitoring, Observability und AI Security

• Erfahrung mit regulierten IT-Umgebungen (z. B. Behörden, Gesundheitswesen oder Finanzsektor)

• Erfahrung mit Knowledge Graphs und GraphRAG

• Technischer Hochschulabschluss, idealerweise in Informatik, Künstlicher Intelligenz, Data Science, Mathematik, Physik oder einem vergleichbaren Abschluss

Für Fragen, Anregungen oder Wünsche stehen wir Ihnen gern zur Verfügung.