> Markdown version of [/jobs/ext/4072278-senior-ai-platform-engineer-llm-agents](https://www.wearedevelopers.com/jobs/ext/4072278-senior-ai-platform-engineer-llm-agents). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# Senior AI Platform Engineer- LLM & Agents

- **Company:** Neurawork GmbH & Co. KG
- **Location:** Berlin, Germany
- **Experience:** Expert
- **Contract:** Permanent contract
- **Skills:** LangGraph Framework, Artificial Intelligence, Python (Programming Language), Software Engineering, Retrieval-Augmented Generation, Large Language Models, Marisk, Langfuse — LLM Observability and Analytics Platform, Pgvector, Kubernetes, PydanticAI Framework, LiteLLM, GXP
- **Published:** October 23, 2026
- **Apply:** https://www.adzuna.de/details/5939067567

## About the Role

Was wir suchen

 * 5+ Jahre Software-Engineering mit Python in Produktion
 * Erfahrung mit LLMs in Produktion: Tokens, Latenz, Kosten und Evals sind für dich Alltag
 * RAG-Systeme, die du selbst gebaut und betrieben hast, inklusive Retrieval-Tuning und Re-Ranking
 * Ein Agent-Framework wie LangGraph, PydanticAI oder vergleichbar im Produktiveinsatz
 * Sehr gutes Deutsch und gutes Englisch, da du mit Enterprise-Kunden im DACH-Raum arbeitest, * Erfahrung mit LiteLLM, Langfuse oder MCP. Was du noch nicht kennst, lernst du bei uns schnell.
 * pgvector-Sizing bei großen Datenmengen
 * Kubernetes-Grundlagen
 * Erfahrung mit regulatorischen Anforderungen wie EU AI Act, DORA, BaFin/MaRisk oder GxP

## Description

Was Du bei uns machst

 * Eine produktionsreife AI-Agent-Plattform auf Basis von PydanticAI, LiteLLM und Langfuse
 * RAG-Pipelines mit pgvector at scale: Multi-Tenant-Isolation, Index-Rebuild-Strategie, Hybrid Search und Re-Ranking
 * Einen Multi-Tenant-Token-Quota-Service und Eval-Frameworks pro Tenant
 * MCP-Tool-Integration (Model Context Protocol) als fester Bestandteil der Architektur
 * Lückenlose Auditierbarkeit von Prompt bis Output, damit Entscheidungen für Fachbereich und Aufsicht nachvollziehbar sind
 * Architektur-Entscheidungen, die auch im Bank-, Versicherungs- und Pharma-Umfeld bestehen

Wie wir arbeiten

 * Eval-driven: Jeder Agent-Change läuft durch eine Eval-Suite, bevor er live geht.
 * ADRs: Relevante Architektur-Entscheidungen werden dokumentiert, nicht im Slack-Thread vergraben.
 * Gemessen statt geraten: LLM-Calls sind ab Tag eins in Langfuse sichtbar, inklusive Kosten und Latenz.
 * Empirisch: Re-Ranking, pgvector-Sizing und Retrieval-Qualität entscheiden wir auf Basis von Daten.
 * Kurze Wege: Direkter Draht zum Founding-Team, keine Projektmanagement-Ebene dazwischen.