> Markdown version of [/jobs/ext/372703-senior-genai-engineer-llms-rag-python-remote-in-de](https://www.wearedevelopers.com/jobs/ext/372703-senior-genai-engineer-llms-rag-python-remote-in-de). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# Senior GenAI Engineer LLMs/ RAG/ Python remote in DE

- **Company:** Talents2Germany GmbH
- **Location:** Frankfurt am Main, Germany (Remote available)
- **Experience:** Expert
- **Contract:** Permanent contract
- **Skills:** Application Programming Interfaces (APIs), Artificial Intelligence, Databases, Text Processing, Fault Tolerance, Github, Human-Computer Interaction, Information Retrieval, Python (Programming Language), Open Source Technology, Management of Software Versions, Large Language Models, Multi-Agent Systems, Prompt Engineering, HuggingFace, Laptops, Machine Learning Operations
- **Published:** June 2, 2026
- **Apply:** https://de.indeed.com/viewjob?jk=9afe10d94f67f4e3

## About the Role

* 5+ Jahre Softwareentwicklungserfahrung, davon mindestens 2 Jahre in angewandter KI/ML in Produktionsumgebungen
 * Tiefe Python-Kenntnisse - du schreibst sauberen, testbaren, produktionsreifen Code (nicht nur Notebooks)
 * Praktische Erfahrung mit RAG-Architekturen und Vector-Datenbanken (Pinecone, Weaviate, Qdrant o.ä.)
 * Fundiertes Wissen über mindestens einen großen LLM-Anbieter (OpenAI, Anthropic, Cohere) und Best Practices im Prompt Engineering
 * Solides Verständnis von MLOps: Modell-Versionierung, Deployment, Monitoring und graceful Degradation in der Produktion
 * Erfahrung mit Orchestrierungs-Frameworks wie LangChain, LlamaIndex o.ä.

Persönlichkeit & Arbeitsweise

 * Du überbrückst den Weg von der Forschung zur Produktion schneller als jede:r andere im Team
 * Gute Deutschkenntnisse (mindestens auf B2-Niveau und Bereitschaft, innerhalb von 6 Monaten C1-Niveau zu erreichen)
 * Sicherer Umgang mit Unklarheiten - du definierst das Problem und schlägst die Lösung vor, anstatt auf ein Spec-Dokument zu warten

Besonders willkommen

 * Erfahrung mit mehrsprachigen NLP-Aufgaben, insbesondere deutschsprachiger Textverarbeitung
 * Fine-Tuning oder RLHF-Erfahrung (LoRA, QLoRA, DPO)
 * Kenntnisse in Multi-Agent-Frameworks (LangGraph, CrewAI, AutoGen)
 * Hintergrund in Enterprise-KI-Deployments, Information Retrieval oder Wissensgraphen
 * Open-Source-GenAI-Projekte, technische Artikel oder Community-Beiträge (GitHub, HuggingFace, arXiv)

## Description

Was du aufbauen wirst

 * Konzeption und Verantwortung für End-to-End-RAG-Pipelines - von der Dokumentenaufnahme und Chunking-Strategie bis zur Retrieval-Evaluierung und Antwortqualität
 * Bewertung, Fine-Tuning und Deployment von LLMs (OpenAI, Anthropic, Open-Source) für domänenspezifische deutschsprachige Anwendungsfälle
 * Architektur robuster, skalierbarer KI-Systeme unter Einhaltung von Enterprise-Anforderungen an Zuverlässigkeit und Compliance
 * Aufbau von Evaluierungsrahmen - automatisierte Evals, Human-in-the-Loop-Tests, Regressions-Suites - zur Sicherstellung der Produktionszuverlässigkeit
 * Zusammenarbeit mit Fullstack-Entwickler:innen zur Bereitstellung von KI-Funktionen über saubere APIs und intuitive Produktoberflächen
 * Enge Zusammenarbeit mit Unternehmenskunden: Anforderungen verstehen, in technische Lösungen übersetzen und maßgeschneiderte Ergebnisse liefern
 * Verfolgung aktueller GenAI-Entwicklungen und kurzfristige Übersetzung relevanter Forschung in praktische Produktverbesserungen


## Related Videos

- [Agentic employees in world's most downloaded FinTech app](https://www.wearedevelopers.com/videos/100123-agentic-employees-in-world-s-most-downloaded-fintech-app)
- [Innovating Developer Tools with AI: Insights from GitHub Next](https://www.wearedevelopers.com/videos/1268-innovating-developer-tools-with-ai-insights-from-github-next)
- [Kubernetes and Microservices with Multi-Model Databases](https://www.wearedevelopers.com/videos/382-kubernetes-and-microservices-with-multi-model-databases)
- [How E.On productionizes its AI model & Implementation of Secure Generative AI.](https://www.wearedevelopers.com/videos/623-how-e-on-productionizes-its-ai-model-implementation-of-secure-generative-ai)
- [Bringing AI Model Testing and Prompt Management to Your Codebase with GitHub Models](https://www.wearedevelopers.com/videos/1536-bringing-ai-model-testing-and-prompt-management-to-your-codebase-with-github-models)
- [Synthetic Insiders: The New AI Risk to Your Org](https://www.wearedevelopers.com/videos/100057-synthetic-insiders-the-new-ai-risk-to-your-org)

## Related Articles

- [Finding Jobs in Germany](https://www.wearedevelopers.com/magazine/375-finding-jobs-in-germany)
- [The Biggest German Tech Companies](https://www.wearedevelopers.com/magazine/424-the-biggest-german-tech-companies)
- [Jobs in Germany for Americans](https://www.wearedevelopers.com/magazine/423-jobs-in-germany-for-americans)
- [Finding IT & Technology English-speaking Jobs in Germany ](https://www.wearedevelopers.com/magazine/446-finding-it-technology-english-speaking-jobs-in-germany)
- [Dev Digest 121 - AI goes offline](https://www.wearedevelopers.com/magazine/456-dev-digest-121-ai-goes-offline)
- [Where to Find German Tech Jobs](https://www.wearedevelopers.com/magazine/366-where-to-find-german-tech-jobs)