> Markdown version of [/jobs/ext/1532333-senior-ki-plattformentwickler](https://www.wearedevelopers.com/jobs/ext/1532333-senior-ki-plattformentwickler). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md). --- # Senior KI-Plattformentwickler - **Company:** embeX GmbH - **Location:** Freiburg im Breisgau, Germany - **Experience:** Expert - **Contract:** Permanent contract - **Skills:** Artificial Intelligence, Backup Devices, Continuous Integration, Web Development, Disaster Recovery, Python (Programming Language), Machine Learning, Metadata, OpenShift, Public Key Infrastructure, Prometheus, Software Engineering, Software Systems, Backup and Restore, Policy as Code, Large Language Models, Grafana, Containerization, Kubernetes, Information Technology, Front End Software Development, CIS Benchmarks, Software Version Control, Data Pipelines - **Published:** July 8, 2026 - **Apply:** https://de.indeed.com/viewjob?jk=dae992092ce59804 ## About the Role * Abgeschlossenes Studium der Informatik, Mathematik, Physik, Embedded Systems Engineering, Künstlichen Intelligenz/ Machine Learning oder vergleichbare Qualifikation * Mehrjährige einschlägige Berufserfahrung (idealerweise 5+ Jahre) in der Entwicklung und im produktiven Betrieb anspruchsvoller Softwaresysteme, mit sicherem Umgang in Python sowie fundierten Kenntnissen moderner Software-Engineering-Praktiken (Versionskontrolle, Testing, Containerisierung, CI/CD) * Erfahrung mit Container-Orchestrierung (Kubernetes); OpenShift und GitOps sind von Vorteil - alternativ bringen Sie die Bereitschaft mit, sich hier einzuarbeiten * Senior-Mindset: hohe Eigenverantwortung, Architektur- und Entscheidungskompetenz, die Fähigkeit, als technischer Sparringspartner auf Augenhöhe zu agieren, sowie Freude an der fachlichen Anleitung von Werkstudenten * Sehr gute Deutsch- sowie Englischkenntnisse * Kommunikationsstärke, strukturierte und eigenständige Arbeitsweise und Freude an der Zusammenarbeit im Team ## Description * Multi-Agenten-System: Sie treiben den Weg vom heutigen RAG zum Multi-Agenten-System voran - Agenten-Frameworks (z. B. LangGraph, Microsoft Agent Framework), das Model Context Protocol (MCP), Orchestrierung und Werkzeug-Anbindung sowie Laufzeit-Guardrails und menschliche Freigaben (Human-in-the-Loop). * Retrieval-Qualität & Daten-Pipeline: Sie übernehmen die fachliche Federführung für die Qualität unseres RAG-Systems - Embeddings und Reranking, automatische Verschlagwortung, Evaluation (RAGAS/Phoenix) - und verantworten zugleich die Robustheit und Konsistenz der Daten-Pipeline (saubere Ingestion, Behandlung fehlgeschlagener Dokumente, Abgleich zwischen Metadaten- und Vektordatenbank, Skalierung der Einlese-Vorgänge). * Plattform, GitOps & KI-Strategie: Sie treffen Plattform- und GitOps-Entscheidungen (K8s-Manifeste der KI-Workloads, ArgoCD/Kustomize, OpenShift-Spezifika, Modell-Lifecycle und GPU-Kapazitätsplanung) und Sie prägen unsere KI-Strategie im engen Austausch mit dem KI-Team, den Fachabteilungen und unseren KI-Gremien aktiv mit. * App-, Portal- & Frontend-Entwicklung: Sie bauen und erweitern unsere Web-Frontends und internen KI-Anwendungen - die Chat-Oberfläche, Upload-Portale sowie die SSO-Anbindung an das Firmen-Login. So verteilt sich diese Kompetenz künftig auf mehrere Schultern. * Betrieb, Observability & Zuverlässigkeit (Day-2 / SRE): Sie sorgen für den stabilen Produktivbetrieb der Plattform - LLM-Serving (vLLM), Plattform-Überwachung (Prometheus, Grafana, AlertManager), Datensicherung mit nachgewiesener Wiederherstellung, Incident-Response, Cluster-Lifecycle (Installation und Updates) sowie ein belastbares Notfall- und Wiederanlaufkonzept (BCP) für das KI-System. * Sicherheit, Auditfestigkeit & Compliance (technisch): Sie sorgen für den sicheren, auditfesten Betrieb unseres On-Premises-Systems - von der Härtung über das Secrets-Management bis zur Zugriffssicherheit streng vertraulicher Inhalte - und setzen regulatorische Anforderungen technisch um (DSGVO-Löschmechanik, Kennzeichnung nach EU-KI-Verordnung). In Bezug auf unser angestrebtes ISO-27001-Vorhaben liefern Sie die technische Umsetzung am KI-System., * Zuverlässiger Betrieb (SRE): Observability (Prometheus/Grafana), Backup/Restore, Incident-Response sowie Disaster Recovery und Notfall-/Wiederanlaufkonzepte (BCP) * Security-Engineering (Härtung, NetworkPolicies, TLS/PKI, Secrets-Management, CIS-Benchmarks/Compliance-Scanning) sowie regulierte, auditpflichtige Umfelder, insbesondere ISO 27001 / ISMS bzw. normativ geprägte Entwicklungsprozesse - den Aufbau dieser Zusammenarbeit mit Security, QM und IT treiben wir im Zuge unseres ISO-27001-Vorhabens voran * Full-Stack-/Frontend-Entwicklung (Web-Frontends zusätzlich zu Python-Backends) - unsere KI-Portale und Upload-Anwendungen leben davon * OpenShift-KI-Stack: Vertrautheit mit einzelnen Komponenten wie LLM-Serving (vLLM / RHAII), Serving-Plattform (OpenShift AI / RHOAI, KServe), Zertifikatsverwaltung (cert-manager), Secrets-Management (External Secrets Operator) und Policy-as-Code (OPA/Rego) ## Related Videos - [5 steps for running a Kubernetes environment at scale](https://www.wearedevelopers.com/videos/88-5-steps-for-running-a-kubernetes-environment-at-scale) - [A Data Mesh needs Open Metadata](https://www.wearedevelopers.com/videos/505-a-data-mesh-needs-open-metadata) - [This Is Not Your Father's .NET](https://www.wearedevelopers.com/videos/967-this-is-not-your-father-s-net) - [Next Level Enterprise Architecture: Modular, Flexible, Scalable, Multichannel and AI-Ready?](https://www.wearedevelopers.com/videos/1017-next-level-enterprise-architecture-modular-flexible-scalable-multichannel-and-ai-ready) - [All your telemetry data from any source in one place](https://www.wearedevelopers.com/videos/57-all-your-telemetry-data-from-any-source-in-one-place) - [Navigating the Corporate Jungle: Life as a Developer in a large Company](https://www.wearedevelopers.com/videos/621-navigating-the-corporate-jungle-life-as-a-developer-in-a-large-company) ## Related Articles - [Best Coding Boot Camps in Germany](https://www.wearedevelopers.com/magazine/237-best-coding-boot-camps-in-germany) - [System change: restart as developer?](https://www.wearedevelopers.com/magazine/39-system-change-restart-as-developer) - [Finding IT & Technology English-speaking Jobs in Germany ](https://www.wearedevelopers.com/magazine/446-finding-it-technology-english-speaking-jobs-in-germany) - [The Biggest German Tech Companies](https://www.wearedevelopers.com/magazine/424-the-biggest-german-tech-companies) - [Finding Jobs in Germany](https://www.wearedevelopers.com/magazine/375-finding-jobs-in-germany) - [The Most Popular IT Jobs on the Market](https://www.wearedevelopers.com/magazine/376-the-most-popular-it-jobs-on-the-market)