> Markdown version of [/jobs/ext/2214608-ai-engineer-ai-platform-engineer](https://www.wearedevelopers.com/jobs/ext/2214608-ai-engineer-ai-platform-engineer). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md). --- # AI Engineer / AI Platform Engineer - **Company:** Mtg Ag - **Location:** Darmstadt, Germany (Remote available) - **Contract:** Permanent contract - **Skills:** Application Programming Interfaces (APIs), Artificial Intelligence, Computing Platforms, Cloud Computing, Cyber Security, Databases, Continuous Integration, Github, Routing, Software Architecture, Software Engineering, Data Logging, Cloud Platform System, Large Language Models, Generative AI, Gitlab, Kubernetes, Information Technology, Wikis, Machine Learning Operations, Restful APIs, Docker - **Published:** August 25, 2026 - **Apply:** https://www.adzuna.de/details/5848473997 ## About the Role * Studium der Informatik, Wirtschaftsinformatik, Mathematik oder eine vergleichbare technische Ausbildung * Erfahrung mit modernen KI- und LLM-Technologien * Praktische Erfahrung mit APIs und der Integration unterschiedlicher Softwareplattformen * Grundverständnis moderner Softwarearchitekturen, Container-Technologien und Cloud-Plattformen * Erfahrung mit mindestens einem der Themen RAG, Vector Databases, LLM APIs, AI Agents oder lokalen LLMs * Interesse an IT-Security, Datenschutz und sicheren KI-Architekturen * Fähigkeit, neue Technologien selbstständig zu evaluieren und in produktive Lösungen zu überführen * Freude daran, neue technische Themen eigenständig zu erschließen und innerhalb des Unternehmens voranzutreiben * Strukturierte und lösungsorientierte Arbeitsweise * Gute Kommunikationsfähigkeit und die Fähigkeit, technische Konzepte verständlich zu vermitteln * Gute Englischkenntnisse in Wort und Schrift (B2) ## Description * Konzeption, Aufbau und Weiterentwicklung einer zentralen KI-Umgebung für MTG * Entwicklung einer unternehmensweiten AI-/LLM-Plattform zur sicheren Nutzung unterschiedlicher KI-Modelle und Provider * Aufbau und Betrieb eines zentralen AI Gateways für lokale und Cloud-basierte KI-Dienste * Integration von KI-Werkzeugen in den Softwareentwicklungsprozess * Integration lokaler Large Language Models sowie externer Cloud-KI-Dienste * Aufbau einer flexiblen Multi-Model-Architektur, mit der abhängig von Sicherheitsanforderungen, Kosten und Anwendungsfall unterschiedliche Modelle eingesetzt werden können * Aufbau einer unternehmensinternen RAG-Lösung (Retrieval Augmented Generation) für Dokumente, technische Dokumentationen, Wiki-Inhalte und internes Wissen * Aufbau von Monitoring-, Logging- und Observability-Funktionen für KI-Systeme * Kontinuierliche Beobachtung aktueller Entwicklungen im Bereich Generative AI, LLMs, AI Agents und AI Engineering * Überführung geeigneter neuer Technologien in produktive MTG-Lösungen * Aufbau von Best Practices, Guidelines und wiederverwendbaren Komponenten für den KI-Einsatz im Unternehmen Technologische Themen Je nach Projekt arbeitest du unter anderem mit Technologien und Konzepten wie: * Large Language Models (LLMs) * lokale und Cloud-basierte KI-Modelle * OpenAI, Anthropic, Google Gemini, Mistral oder vergleichbare Plattformen * Ollama, vLLM oder vergleichbare lokale Inference-Plattformen * RAG und Vector Databases * Embeddings und semantische Suche * AI Gateways und Model Routing * LLMOps und MLOps * AI Agents und agentische Workflows * REST APIs und API Gateways * Docker und Kubernetes * Monitoring und Observability * GitLab/GitHub und CI/CD, * nicht nur KI-Anwendungen nutzen, sondern die technische Plattform dahinter gestalten möchtest, * gerne unterschiedliche KI-Modelle und Technologien vergleichst und miteinander kombinierst, * sowohl mit lokalen Modellen als auch mit Cloud-KI arbeiten möchtest, * neue Technologien gerne praktisch ausprobierst und anschließend produktionsreif machst, * KI nicht als isolierte Technologie, sondern als Bestandteil moderner Softwarearchitekturen verstehst, * Themen wie Datenschutz, Informationssicherheit und technologische Souveränität spannend findest. ## Related Videos - [WeAreDevelopers LIVE - Modern DevOps for IoT Devices and More](https://www.wearedevelopers.com/videos/1805-wearedevelopers-live-modern-devops-for-iot-devices-and-more) - [Docker Compose: Rediscovered](https://www.wearedevelopers.com/videos/1978-docker-compose-rediscovered) - [Living Documentation That Can't Die](https://www.wearedevelopers.com/videos/2025-living-documentation-that-can-t-die) - [The Missing Layer Between Enterprise Data and AI Agents](https://www.wearedevelopers.com/videos/100286-the-missing-layer-between-enterprise-data-and-ai-agents) - [Enabling automated 1-click customer deployments with built-in quality and security](https://www.wearedevelopers.com/videos/83-enabling-automated-1-click-customer-deployments-with-built-in-quality-and-security) - [Docker build without Docker](https://www.wearedevelopers.com/videos/100114-docker-build-without-docker) ## Related Articles - [How to Become an AI Engineer](https://www.wearedevelopers.com/magazine/331-how-to-become-an-ai-engineer) - [The Most Popular IT Jobs on the Market](https://www.wearedevelopers.com/magazine/376-the-most-popular-it-jobs-on-the-market) - [Finding IT & Technology English-speaking Jobs in Germany ](https://www.wearedevelopers.com/magazine/446-finding-it-technology-english-speaking-jobs-in-germany) - [Top-Paying Tech Jobs (with Salaries)](https://www.wearedevelopers.com/magazine/372-top-paying-tech-jobs-with-salaries) - [The Biggest German Tech Companies](https://www.wearedevelopers.com/magazine/424-the-biggest-german-tech-companies) - [IT Salaries in Germany](https://www.wearedevelopers.com/magazine/287-it-salaries-in-germany)