> Markdown version of [/jobs/ext/4107204-backend-developer-ai-engineer](https://www.wearedevelopers.com/jobs/ext/4107204-backend-developer-ai-engineer). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md). --- # Backend Developer / AI Engineer - **Company:** i-gelb GmbH - **Location:** Köln, Germany - **Contract:** Permanent contract - **Skills:** Java (Programming Language), Application Programming Interfaces (APIs), Artificial Intelligence, C Sharp (Programming Language), Cloud Computing, Databases, Continuous Integration, Data Warehousing, Linux, Data Streaming, Management of Software Versions, Rust (Programming Language), Data Processing, Large Language Models, Backend, Front End Software Development - **Published:** October 10, 2026 - **Apply:** https://www.adzuna.de/details/5919367442 ## About the Role Das bringst Du mit: * Mehrjährige Erfahrung in der Backend-Entwicklung mit einer modernen, typsicheren Programmiersprache (z. B. Go, Rust, Java, C# o. Ä.) * Sicheres Design und Betrieb von APIs und Echtzeit- / Streaming-Schnittstellen, inklusive nebenläufiger Programmierung und Performance-Optimierung * Verständnis von semantischer Suche / KI-gestütztem Retrieval und dem Umgang mit großen Datenmengen * Erfahrung in der Integration von KI- / LLM-Diensten * Sicherer Umgang mit Container-Technologien, Linux, Versionierung und automatisierten Deployments (CI / CD) * Solides Datenbank-Wissen (relational und / oder für Such- / Vektordaten) * Bewusstsein für Datenschutz, Sicherheit und Mandantentrennung * Eigenständige, strukturierte Arbeitsweise und Freude an Teamarbeit * Sehr gute Deutschkenntnisse Nice to have (aber kein Muss): * Erfahrung im Betrieb von KI- / Modell-Infrastruktur (Serving, Skalierung, Ressourcen- und Kostenoptimierung) * Kenntnisse in semantischer Suche, Ranking-Verfahren und Datenaufbereitung für KI * Erfahrung mit dem Betrieb eigener Recheninfrastruktur (z. B. GPU-gestützt) * Verständnis für europäische Cloud- und Datenschutz-Anforderungen * Erfahrung mit Multi-Tenant-Architekturen und Zugriffs- / Rechtekonzepten Was du nicht machen musst: * Kein Frontend-Development und kein Pixel-Feintuning von UIs * Kein klassisches Website- / CMS-Building ## Description * Du entwickelst und betreibst die Backend-Services hinter unseren KI-Assistenten, die unsere Agenten und ihr Wissen für alle Kundenprojekte bereitstellen * Du baust und verbesserst die Suche, die zu jeder Frage die passenden Inhalte findet, und deren Aufbereitung zur Antwort * Du sorgst dafür, dass große Mengen an Wissen schnell durchsuchbar bleiben, und kümmerst dich um Aufbau, Betrieb und Qualität der Suche * Du bindest Sprachmodelle (LLMs) ein und bereitest die Daten auf, die sie brauchen * Du integrierst verschiedene KI-Anbieter und Modelle und achtest dabei auf Datenschutz und europäische Datenhaltung (DSGVO) * Du sorgst dafür, dass Antworten schnell und zuverlässig ankommen - auch bei vielen gleichzeitigen Anfragen * Du hältst die Daten verschiedener Kunden sauber getrennt und sorgst dafür, dass Zugriffsrechte zuverlässig greifen * Du entscheidest über die Architektur mit und arbeitest eng mit dem Frontend-, Daten- und KI-Team zusammen