> Markdown version of [/jobs/ext/4809196-principal-ai-architect](https://www.wearedevelopers.com/jobs/ext/4809196-principal-ai-architect). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md). --- # Principal AI Architect - **Company:** CARIAD SE - **Location:** Berlin, Germany - **Experience:** Expert - **Contract:** Permanent contract - **Skills:** Microsoft Access, Application Programming Interfaces (APIs), Artificial Intelligence, Cloud Computing, Code Review, Encodings, Distributed Systems, Python (Programming Language), Routing, Search Technologies, Software Engineering, Software Systems, Toolchain, Retrieval-Augmented Generation, Large Language Models, Agentic-AI, Information Technology, Machine Learning Operations, Api Design - **Published:** November 21, 2026 - **Apply:** https://www.xing.com/jobs/berlin-principal-ai-architect-159258169 ## About the Role * Abgeschlossenes Studium der Informatik, Softwaretechnik oder einer vergleichbaren Fachrichtung bzw. gleichwertige praktische Erfahrung. * Nachweisbare Erfahrung in Konzeption und Entwicklung komplexer verteilter Softwaresysteme sowie Architekturverantwortung über mehrere Teams hinweg. * Praktische Erfahrung in Entwicklung und Bereitstellung produktiver KI-Anwendungen, insbesondere LLM-basierter Lösungen, RAG und agentenbasierter Systeme. * Sehr gute Programmierkenntnisse in Python sowie fundierte Kenntnisse in API-Design, Cloud-nativen Architekturen, verteilten Systemen und resilienter Softwareentwicklung. * Fundiertes Verständnis moderner agentenbasierter Architekturen und Agentic Software Engineering Patterns, einschließlich Tool-/Function-Calling, Agent-Orchestrierung, State- und Context-Management, Human-in-the-Loop und kontrollierter Ausführung. * Fundierte Erfahrung mit systematischer Evaluation von LLM- und agentenbasierten Systemen, einschließlich Offline-/Online-Evaluation, Testdatensätzen, Qualitätsmetriken, Regression Testing, LLM-as-a-Judge sowie Qualitäts-, Latenz- und Kosten-Benchmarks. * Erfahrung in Bewertung und Integration unterschiedlicher LLMs, multimodaler Modelle und Embedding-Modelle sowie Entwicklung geeigneter Model-Routing- und Abstraktionsmechanismen. * Tiefes Verständnis von Context Engineering, Retrieval-Architekturen, Embeddings, Vector Search, Reranking, Prompt-/Context-Management und strukturierten Outputs. * Erfahrung mit AI-spezifischer Observability und Tracing über Modelle, Agents, Tool Calls, Retrieval und End-to-End-Execution-Flows. * Tiefgehende praktische Erfahrung mit mindestens einem modernen GenAI-/Agentic-AI-Technologie-Stack sowie Fähigkeit zur fundierten Bewertung neuer Modelle, Frameworks und Engineering-Ansätze anhand konkreter Implementierungen und Benchmarks. ## Description Die R&D AI Factory vereint KI-Architektur, Engineering und Produktentwicklung, um den Einsatz von Künstlicher Intelligenz (KI) im gesamten R&D-Bereich skalierbar zu gestalten. Unsere Mission ist es, Standards, Architekturen und wiederverwendbare Grundlagen zu schaffen, die den flächendeckenden Einsatz von KI ermöglichen. Gleichzeitig überführen wir Anwendungsfälle mit hohem Mehrwert in robuste, produktionsreife Lösungen. Unser Team begleitet den gesamten KI-Lebenszyklus, von KI-Governance sowie Referenz- und Agentenarchitekturen über KI-Engineering, Plattformintegration, MLOps/LLMOps bis hin zu Deployment, Monitoring und Skalierung. In enger Zusammenarbeit mit den R&D AI Product Teams begleiten wir Anwendungsfälle von der ersten Idee und dem Proof of Concept über die Entwicklung und Produktisierung bis hin zur erfolgreichen Implementierung und Nutzung., * Definition und Gestaltung der technischen Architektur der R&D-AI-Lösungslandschaft sowie Entwicklung von Referenzarchitekturen für Model Access und Routing, Context Engineering, Retrieval, Agent Runtime und Orchestrierung, Tool Integration, Evaluation, Observability, APIs und sichere Ausführung. * Konzeption, Entwicklung und Implementierung praxisorientierter Referenzlösungen und Prototypen zur Validierung von Architekturkonzepten und technischen Entscheidungen durch Code, Benchmarks und konkrete Implementierungen. * Etablierung wiederverwendbarer Softwarekomponenten, technischer Standards und stabiler Schnittstellen auf Basis konkreter Produkt- und Engineering-Anforderungen. * Durchführung von Architektur- und Code-Reviews sowie Unterstützung der Engineering-Teams bei teamübergreifenden Architekturherausforderungen. * Bewertung von Build-, Buy- und Reuse-Ansätzen unter Berücksichtigung von Plattformkompatibilität, Integrationsaufwand, Anbieterabhängigkeiten und Gesamtbetriebskosten. * Zusammenarbeit mit den Domain Engineers der T-OU-Einheiten und dezentralen KI-Teams zur Überführung fachlicher und technischer Anforderungen in skalierbare, produktionsreife KI-Lösungen. * Integration von KI-Funktionalitäten in bestehende R&D-Toolchains, einschließlich Requirements Engineering, Source Code, Build, Test und Validierungsumgebungen. * Dokumentation von Architekturentscheidungen, technischen Trade-offs und Kriterien für die Produktionsreife zur Sicherstellung von Transparenz und Rückverfolgbarkeit. * Weiterentwicklung von Engineering-Methoden und wiederverwendbaren Lösungsansätzen sowie kontinuierliche Verbesserung bestehender Systeme auf Basis von Evaluationsergebnissen und Erkenntnissen aus dem Produktivbetrieb.