> Markdown version of [/jobs/ext/2492903-ki-manager-schwerpunkt-large-language-models](https://www.wearedevelopers.com/jobs/ext/2492903-ki-manager-schwerpunkt-large-language-models). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# KI-Manager - Schwerpunkt Large Language Models

- **Company:** Burkhard Mackel
- **Location:** München, Germany (Remote available)
- **Contract:** Permanent contract
- **Skills:** Artificial Intelligence, Linux, Linux Servers, Network Administration, AI Infrastructure, Data Logging, Large Language Models, Kubernetes, Information Technology, Docker
- **Published:** August 8, 2026
- **Apply:** https://jobs.meinestadt.de/muenchen/standard?id=260062112

## About the Role

* Abgeschlossene Ausbildung im IT-Bereich, ein Studium der Informatik oder eine vergleichbare Qualifikation
 * Mehrjährige Berufserfahrung in den genannten Aufgabenbereichen
 * Sehr gute Kenntnisse im Bereich Large Language Models, deren Architektur und Betrieb
 * Fundierte Erfahrung mit Container-Technologien wie Docker, Podman oder Containerd
 * Mehrjährige Erfahrung im produktiven Betrieb von Kubernetes bzw. k3s
 * Gute Kenntnisse von Inference-Pipelines, Vektordatenbanken und Retrieval-Augmented-Generation-(RAG)-Systemen
 * Sehr gute Kenntnisse in der Linux-, System- und Netzwerkadministration
 * Ausgeprägtes Interesse an neuen KI-Technologien sowie deren sicherem und nachhaltigem Einsatz
 * Strukturierte, eigenverantwortliche und lösungsorientierte Arbeitsweise
 * Sehr gute Deutsch- und Englischkenntnisse in Wort und Schrift

## Description

Infrastruktur
Kubernetes
IT
Cluster
Netzwerkadministration
Fertigung
Informatik
Administration
Englisch
Docker
Wirtschaftswissenschaften
Optimierung
Künstliche Intelligenz
IT-Bereich
Linux-System, Linux
Dokumentation
Planung
Deutsch, In dieser Position übernimmst Du eine Schlüsselrolle beim Aufbau, Betrieb und der Weiterentwicklung unserer unternehmenseigenen KI-Plattform . Gemeinsam schaffen wir eine sichere, leistungsfähige und zukunftsorientierte Infrastruktur für den Einsatz von Large Language Models und treiben die digitale Zukunft unseres Unternehmens voran., * Aufbau, Administration und kontinuierliche Optimierung unseres lokalen Large-Language-Model-(LLM)-Stacks

 * Betrieb, Administration und Weiterentwicklung unserer Container- und Cluster-Infrastruktur
 * Planung, Evaluierung und Implementierung neuer KI-Features sowie Bewertung neuer LLMs
 * Aufbau und Pflege sicherer Datenpipelines zur Anbindung interner Dokumente, Systeme und Wissensquellen an unsere KI-Plattform
 * Entwicklung robuster Monitoring-, Logging- und Skalierungskonzepte für die KI-Infrastruktur
 * Beratung der Fachbereiche hinsichtlich sicherer KI-Workflows sowie Mitwirkung bei der Umsetzung von Sicherheitsrichtlinien
 * Mitwirkung bei der Realisierung von IT-Sicherheitsmaßnahmen, insbesondere im Hinblick auf eine regelkonforme Nutzung von Large Language Models
 * Administration von Linux-Servern und IT-Services
 * Eigenständige Analyse und Behebung von IT-Störungen
 * Mitarbeit in IT-Projekten sowie bei der Einführung neuer Systeme und Technologien
 * Dokumentation von IT-Systemen, Konfigurationen und Prozessen


## Related Videos

- [Docker network without Docker](https://www.wearedevelopers.com/videos/1418-docker-network-without-docker)
- [Docker Compose: Rediscovered](https://www.wearedevelopers.com/videos/1978-docker-compose-rediscovered)
- [Understanding Kubernetes in a visual way](https://www.wearedevelopers.com/videos/100085-understanding-kubernetes-in-a-visual-way)
- [Supercharge your cloud-native applications with Generative AI](https://www.wearedevelopers.com/videos/950-supercharge-your-cloud-native-applications-with-generative-ai)
- [Docker exec without Docker](https://www.wearedevelopers.com/videos/1094-docker-exec-without-docker)
- [Docker build without Docker](https://www.wearedevelopers.com/videos/100114-docker-build-without-docker)

## Related Articles

- [Finding IT & Technology English-speaking Jobs in Germany ](https://www.wearedevelopers.com/magazine/446-finding-it-technology-english-speaking-jobs-in-germany)
- [Finding Jobs in Germany](https://www.wearedevelopers.com/magazine/375-finding-jobs-in-germany)
- [The Biggest German Tech Companies](https://www.wearedevelopers.com/magazine/424-the-biggest-german-tech-companies)
- [Best Coding Boot Camps in Germany](https://www.wearedevelopers.com/magazine/237-best-coding-boot-camps-in-germany)
- [System change: restart as developer?](https://www.wearedevelopers.com/magazine/39-system-change-restart-as-developer)
- [Dev Digest 121 - AI goes offline](https://www.wearedevelopers.com/magazine/456-dev-digest-121-ai-goes-offline)