> Markdown version of [/jobs/ext/1494018-backend-developer-ai-engineer](https://www.wearedevelopers.com/jobs/ext/1494018-backend-developer-ai-engineer). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# Backend Developer / AI Engineer

- **Company:** i-gelb GmbH
- **Location:** Köln, Germany (Remote available)
- **Contract:** Permanent contract
- **Skills:** Java (Programming Language), Application Programming Interfaces (APIs), Artificial Intelligence, C Sharp (Programming Language), Cloud Computing, Databases, Continuous Integration, Data Warehousing, Linux, Data Streaming, Management of Software Versions, Rust (Programming Language), Data Processing, Large Language Models, Backend, Front End Software Development
- **Published:** July 30, 2026
- **Apply:** https://de.indeed.com/viewjob?jk=c99ade2c0acbed9b

## About the Role

* Mehrjährige Erfahrung in der Backend-Entwicklung mit einer modernen, typsicheren Programmiersprache (z. B. Go, Rust, Java, C# o. Ä.)

 * Sicheres Design und Betrieb von APIs und Echtzeit- / Streaming-Schnittstellen, inklusive nebenläufiger Programmierung und Performance-Optimierung

 * Verständnis von semantischer Suche / KI-gestütztem Retrieval und dem Umgang mit großen Datenmengen

 * Erfahrung in der Integration von KI- / LLM-Diensten

 * Sicherer Umgang mit Container-Technologien, Linux, Versionierung und automatisierten Deployments (CI / CD)

 * Solides Datenbank-Wissen (relational und / oder für Such- / Vektordaten)

 * Bewusstsein für Datenschutz, Sicherheit und Mandantentrennung

 * Eigenständige, strukturierte Arbeitsweise und Freude an Teamarbeit

 * Sehr gute Deutschkenntnisse, * Erfahrung im Betrieb von KI- / Modell-Infrastruktur (Serving, Skalierung, Ressourcen- und Kostenoptimierung)

 * Kenntnisse in semantischer Suche, Ranking-Verfahren und Datenaufbereitung für KI

 * Erfahrung mit dem Betrieb eigener Recheninfrastruktur (z. B. GPU-gestützt)

 * Verständnis für europäische Cloud- und Datenschutz-Anforderungen

 * Erfahrung mit Multi-Tenant-Architekturen und Zugriffs- / Rechtekonzepten

## Description

* Du entwickelst und betreibst die Backend-Services hinter unseren KI-Assistenten, die unsere Agenten und ihr Wissen für alle Kundenprojekte bereitstellen

 * Du baust und verbesserst die Suche, die zu jeder Frage die passenden Inhalte findet, und deren Aufbereitung zur Antwort

 * Du sorgst dafür, dass große Mengen an Wissen schnell durchsuchbar bleiben, und kümmerst dich um Aufbau, Betrieb und Qualität der Suche

 * Du bindest Sprachmodelle (LLMs) ein und bereitest die Daten auf, die sie brauchen

 * Du integrierst verschiedene KI-Anbieter und Modelle und achtest dabei auf Datenschutz und europäische Datenhaltung (DSGVO)

 * Du sorgst dafür, dass Antworten schnell und zuverlässig ankommen - auch bei vielen gleichzeitigen Anfragen

 * Du hältst die Daten verschiedener Kunden sauber getrennt und sorgst dafür, dass Zugriffsrechte zuverlässig greifen

 * Du entscheidest über die Architektur mit und arbeitest eng mit dem Frontend-, Daten- und KI-Team zusammen


## Related Videos

- [Shipping Faster with Less: Render on Cloud Hosting, AI Workloads, and the Future of DevOps](https://www.wearedevelopers.com/videos/1894-shipping-faster-with-less-render-on-cloud-hosting-ai-workloads-and-the-future-of-devops)
- [Docker network without Docker](https://www.wearedevelopers.com/videos/1418-docker-network-without-docker)
- [Developing the Backend with Stefan Lingler, CTO at Shpock](https://www.wearedevelopers.com/videos/100360-developing-the-backend-with-stefan-lingler-cto-at-shpock)
- [Kubernetes and Microservices with Multi-Model Databases](https://www.wearedevelopers.com/videos/382-kubernetes-and-microservices-with-multi-model-databases)
- [Breaking Silos: Successful Collaboration Between Tech & Business Teams in Complex Enterprise Systems](https://www.wearedevelopers.com/videos/1623-breaking-silos-successful-collaboration-between-tech-business-teams-in-complex-enterprise-systems)
- [Docker exec without Docker](https://www.wearedevelopers.com/videos/1094-docker-exec-without-docker)

## Related Articles

- [Finding Jobs in Germany](https://www.wearedevelopers.com/magazine/375-finding-jobs-in-germany)
- [Backend Developer Salary in Germany [2023]](https://www.wearedevelopers.com/magazine/196-backend-developer-salary-in-germany-2023)
- [The Biggest German Tech Companies](https://www.wearedevelopers.com/magazine/424-the-biggest-german-tech-companies)
- [The Most Popular IT Jobs on the Market](https://www.wearedevelopers.com/magazine/376-the-most-popular-it-jobs-on-the-market)
- [Finding IT & Technology English-speaking Jobs in Germany ](https://www.wearedevelopers.com/magazine/446-finding-it-technology-english-speaking-jobs-in-germany)
- [Frontend Developer Salary in Germany [2023]](https://www.wearedevelopers.com/magazine/195-frontend-developer-salary-in-germany-2023)