> Markdown version of [/jobs/ext/3707499-junior-ai-application-engineer-ai-products-llm-rag](https://www.wearedevelopers.com/jobs/ext/3707499-junior-ai-application-engineer-ai-products-llm-rag). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# Junior AI Application Engineer - AI Products (LLM & RAG)

- **Company:** Machine Learning Reply
- **Location:** Germany
- **Experience:** Starter
- **Contract:** Permanent contract
- **Skills:** Application Programming Interfaces (APIs), Artificial Intelligence, Amazon Web Services, Microsoft Azure, Cloud Computing, Encodings, Continuous Integration, DevOps, Python (Programming Language), Machine Learning, Microsoft Copilot, Search Technologies, Software Engineering, Enterprise Data Management, Google Cloud, LangChain, Retrieval-Augmented Generation, Large Language Models, Llamaindex, Backend, Containerization, Kubernetes, Information Technology, HuggingFace, Docker, Microservices
- **Published:** October 13, 2026
- **Apply:** https://www.absolventa.de/stellenangebote/13375161-b-junior-ai-application-engineer-ai-products-llm-rag-m-f-d

## About the Role

* Abgeschlossenes Studium in Informatik, Software Engineering, Data Science oder einem vergleichbaren technischen Bereich
 * Programmierkenntnisse in Python und modernen Backend-Frameworks sowie Erfahrung mit KI-, Machine-Learning- und generativen KI-Anwendungen
 * Erste Erfahrung in der Entwicklung skalierbarer Backend-Systeme, APIs und Microservices sowie Kenntnisse in RAG, Vektordatenbanken und Retrieval-Technologien
 * Praxis in Containerisierung und DevOps (z. B. Docker, CI/CD, Kubernetes) sowie Deployment von KI-Services in Cloud-Umgebungen (AWS, Azure, GCP)
 * Berührungspunkte mit relevanten Frameworks (z. B. LangChain, LlamaIndex, Hugging Face)
 * Kenntnisse in Monitoring, Observability sowie Evaluation und Optimierung von LLM-Systemen
 * Sehr gute Deutsch- und Englischkenntnisse für Workshops und Kommunikation

## Description

Als Junior AI Application Engineer (m/w/d) entwirfst und entwickelst du KI-gestützte Anwendungen und Produktfunktionen für Unternehmenskunden. Zu deinen Aufgaben gehören:

 * Konzeption und Entwicklung von KI-Anwendungen wie Enterprise-Assistenten, Copiloten, semantischen Suchplattformen und Automatisierungssystemen
 * Unterstützung bei der Entwicklung von LLM-basierten Lösungen (inkl. RAG) sowie End-to-End-KI-Produkten unter Integration von APIs, Unternehmensdaten und Backend-Services
 * Aufbau skalierbarer KI-Microservices, APIs sowie Vektorsuche-, Embedding- und Retrieval-Systeme
 * Schnelles Prototyping von KI-Features und deren Weiterentwicklung zu produktiven Systemen
 * Enge Zusammenarbeit mit Produktmanagern, Designern, KI-Ingenieuren und Kunden zur Entwicklung wirkungsvoller Lösungen
 * Deployment von KI-Systemen in Cloud- und Produktionsumgebungen unter Nutzung moderner DevOps-Praktiken
 * Sicherstellung von Zuverlässigkeit, Skalierbarkeit und Observability durch CI/CD, Monitoring und containerisierte Deployments, * Enterprise AI Knowledge Assistants
 * AI Copilots für interne Business-Tools
 * Semantic Search Plattformen für Unternehmensdaten
 * Document Intelligence Systeme auf Basis von LLMs
 * AI Agents und Automatisierungssysteme für Enterprise Workflows