> Markdown version of [/jobs/ext/3945147-ai-engineer-ki-entwickler-llm-rag](https://www.wearedevelopers.com/jobs/ext/3945147-ai-engineer-ki-entwickler-llm-rag). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# AI Engineer / KI-Entwickler - LLM & RAG

- **Company:** PTA GmbH
- **Location:** Frankfurt am Main, Germany (Remote available)
- **Experience:** Experienced
- **Salary:** €55,000.0 - €80,000.0
- **Contract:** Permanent contract
- **Skills:** Application Programming Interfaces (APIs), Artificial Intelligence, Amazon Web Services, Computer Vision, Automation of Tests, Microsoft Azure, Cloud Computing, Databases, Continuous Integration, Data Structures, Python (Programming Language), Microsoft Office, Object-Oriented Software Development, Software Engineering, SQL Databases, Google Cloud, Cloud Platform System, Retrieval-Augmented Generation, Large Language Models, Prompt Engineering, Backend, Kubernetes, Information Technology, Terraform, Devsecops
- **Published:** October 27, 2026
- **Apply:** https://www.get-in-it.de/jobsuche/p313865

## About the Role

* Mindestens drei Jahre Erfahrung in der Softwareentwicklung mit Python, davon mindestens ein Jahr in KI-Projekten, die produktiv gegangen sind. Dazu ein Studium der Data Science, Informatik, Mathematik oder eine vergleichbare Qualifikation mit entsprechender Berufserfahrung.
 * Fundierte Python-Kenntnisse, von objektorientierter Programmierung über automatisierte Tests bis zum Verständnis, wie Datenstrukturen, Algorithmen und Designentscheidungen die Performance beeinflussen.
 * Praxis mit großen Sprachmodellen: Prompt Engineering, Retrieval-Augmented Generation und die Anbindung von Modellen über APIs, mit LangChain oder einer vergleichbaren Bibliothek. Sie wissen, wie Sprachmodelle funktionieren, und verstehen deshalb auch, wo sie an Grenzen stoßen.
 * Sicherer Umgang mit SQL und unterschiedlichen Datenbanken. Dazu Erfahrung mit mindestens einer Cloud-Plattform wie Microsoft Azure, AWS oder Google Cloud.
 * Freude am direkten Austausch mit Kunden, auch vor Ort, wenn das Projekt es erfordert. Sie verstehen, was der Fachbereich braucht, erklären technische Abwägungen verständlich und bleiben souverän, wenn kritisch nachgefragt wird.
 * Sehr gutes Deutsch (mind. C1) in Wort und Schrift, denn Sie arbeiten mit deutschsprachigen Fachdokumenten, und gutes Englisch (mind. B2).

Ein Plus: Idealerweise kennen Sie das Gesundheitswesen und haben Erfahrung mit Dokumentenverarbeitung (etwa Azure Document Intelligence), Agentic AI oder DevSecOps mit Kubernetes und Terraform.

## Description

Home-Office
Algorithmen
Amazon Web Services (AWS)
Artificial Intelligence (AI)
CI/CD (Continuous Integration/Delivery)
Cloud Computing
Datenschutz

+8, * Gemeinsam mit Fachbereich und IT unserer Kunden entwickeln Sie Anwendungen auf Basis großer Sprachmodelle, von Assistenten über Dokumentenpipelines bis zu Agenten, und begleiten sie von der Konzeption bis zum produktiven Einsatz.

 * Sie bauen RAG-Architekturen: Dokumente aufbereiten, Chunking, Embeddings, Vektordatenbanken, Retrieval und Re-Ranking.
 * Sie machen unstrukturierte Dokumente nutzbar, mit Pipelines für Texterkennung, Strukturierung, Extraktion, Klassifikation und Zusammenfassung.
 * Über Backend-Services und Schnittstellen binden Sie die KI-Komponenten an die Systeme unserer Kunden an. Mit Containern, CI/CD und Monitoring bringen Sie sie in Betrieb, in der Cloud oder beim Kunden vor Ort.
 * Sie wägen ab, welches Modell zur Aufgabe passt, ob groß oder klein, nach Ergebnisqualität, Kosten, Antwortzeit, Skalierbarkeit und Datenschutz, und erklären Ihre Empfehlung so, dass der Kunde fundiert entscheiden kann.
 * Aus Ihren Projekten entstehen Referenzarchitekturen und wiederverwendbare Bausteine für unser Portfolio. Gelegentlich unterstützen Sie Angebote mit Aufwandsschätzungen und Lösungskonzepten oder halten einen Fachvortrag.