> Markdown version of [/jobs/ext/4631934-ai-software-engineer](https://www.wearedevelopers.com/jobs/ext/4631934-ai-software-engineer). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# AI Software Engineer

- **Company:** Empro
- **Location:** Nürnberg, Germany (Remote available)
- **Experience:** Expert
- **Salary:** €60,000.0 - €90,000.0
- **Contract:** Permanent contract
- **Skills:** Application Programming Interfaces (APIs), Artificial Intelligence, Amazon Web Services, User Authentication, Microsoft Azure, C Sharp (Programming Language), Software as a Service, Cloud Computing, Continuous Integration, Data Security, DevOps, Python (Programming Language), Regression Testing, Session Management, TypeScript, Microsoft Agent Framework, ReactJS, Retrieval-Augmented Generation, Large Language Models, Caching, Backend, Pgvector, AI Platforms, Kubernetes, Arize Phoenix, PydanticAI Framework, LiteLLM, Front End Software Development, Restful APIs, Docker
- **Published:** November 8, 2026
- **Apply:** https://www.careerjet.de/jobad/de015e11e9ffeb7ea5e7db753d95568d0c

## About the Role

* Mindestens 5 Jahre Erfahrung in der Backend-Entwicklung.
 * Sehr gute Programmierkenntnisse in Python und C#.
 * Erfahrung in Architektur und Aufbau von KI-/LLM-Systemen: Agent-Frameworks, RAG-Pipelines, Multi-Modell-Orchestrierung und MCP-Server.
 * Produktionserfahrung mit LLM-Frameworks wie Agno, Microsoft Agent Framework oder PydanticAI.
 * Erfahrung in der Evaluation und im Monitoring von LLM-Systemen hinsichtlich Qualität, Drift, Latenz und Kosten (LLM-as-a-Judge, Rubrics, Regressionstests).
 * Praxis in Prompt Design, Prompt Caching und Steuerung der Token-Kosten über mehrere LLM-Anbieter hinweg, über ein Gateway wie LiteLLM.
 * Fundiertes Verständnis von Webanwendungssicherheit: Authentifizierung und Session-Management, sicherer Umgang mit Zugangsdaten und Tokens sowie Eingabevalidierung.
 * Erfahrung mit der Integration umfangreicher REST-APIs von Drittanbietern in ein Produkt, z. B. E-Mail-Provider-APIs (Microsoft Graph, Gmail API).
 * Fließende Deutsch- und Englischkenntnisse.
 * Reisebereitschaft zu unseren Standorten in Deutschland, Belgien und Rumänien.

Pluspunkte
Nichts davon ist Pflicht. Wenn du ein oder zwei Punkte mitbringst, hast du einen Vorsprung. Den Rest lernst du bei uns:

 * Cloud und DevOps auf Azure: Docker, Kubernetes (AKS), CI/CD mit Azure DevOps oder ArgoCD.
 * LLM-Observability und Cloud-LLM-Plattformen (OpenTelemetry, Arize Phoenix, Azure AI Foundry, AWS Bedrock).
 * Erste Frontend-Erfahrung, idealerweise mit React und TypeScript für Chat-Oberflächen.
 * Vektorsuche (pgvector) oder Fine-Tuning von LLMs.
 * Grundkenntnisse der DSGVO und des EU AI Act oder Erfahrung im SaaS- oder PropTech-Umfeld.
 * Eine weitere europäische Sprache, z. B. Französisch, Niederländisch oder Spanisch.

## Description

* Konzeption, Entwicklung und Betrieb des Backends unseres KI-Assistenten: Orchestrierung, Tool-Integrationen und Datenzugriff.
 * Integration des Assistenten in die WHISE CRM API.
 * Weiterentwicklung des Evaluations- und Observability-Setups, damit jedes Release vor dem Go-live gemessen wird.
 * Sicherstellen, dass Aktionen des Agenten sicher und nachvollziehbar sind, mit Freigabeprozessen für Datenänderungen.
 * Zusammenarbeit mit unseren Product- und Development-Squads, * Neugierig. Du willst ständig dazulernen und gibst dein Wissen gern an andere weiter.
 * Teamplayer. Du teilst dein Wissen, holst dir frühzeitig Hilfe und gibst Feedback, mit dem andere etwas anfangen können.
 * Offen. Kritik an deiner Idee siehst du als Chance, sie besser zu machen, und du gibst dasselbe zurück.
 * Positiv unter Druck. Deadlines und Stress bringen dich nicht aus der Ruhe. Wenn etwas nicht funktioniert, suchst du nach der Lösung, nicht nach einem Schuldigen.