> Markdown version of [/jobs/ext/4103991-it-administrator-schwerpunkt-ki-plattform](https://www.wearedevelopers.com/jobs/ext/4103991-it-administrator-schwerpunkt-ki-plattform). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md).

---

# IT Administrator Schwerpunkt KI Plattform

- **Company:** Kdw Hr Gmbh & Co. Kg
- **Location:** Lemwerder, Germany
- **Salary:** €61,360.0 - €75,358.0
- **Contract:** Permanent contract
- **Skills:** Application Programming Interfaces (APIs), Artificial Intelligence, Disaster Recovery, Identity and Access Management, Open Source Technology, Prometheus, Webui, Systems Integration, Retrieval-Augmented Generation, Large Language Models, Grafana, AI Platforms, Kubernetes, Information Technology, SGLang, Ray Serve, Machine Learning Operations, Graph RAG, VLLM, Api Management, Docker
- **Published:** October 15, 2026
- **Apply:** https://www.arbeitsagentur.de/jobsuche/jobdetail/17007-PXHLFZDN50Q5VC04-S

## About the Role

Abgeschlossenes Studium der Informatik, Ausbildung zum Fachinformatiker Systemintegration oder vergleichbare Qualifikation

 - Praktische Erfahrung im Aufbau und Betrieb von IT-Infrastrukturen, idealerweise im KI-Umfeld
 - Erfahrung mit NVIDIA-GPU-Infrastrukturen und GPU-Clustern
 - Fundierte Kenntnisse in Kubernetes (On-Premises)
 - Erfahrung mit LLM-Frameworks wie vLLM, Ray Serve, SGLang oder vergleichbaren Technologien
 - Kenntnisse in Docker, Helm, ArgoCD und GitOps
 - Erfahrung mit Monitoring und Observability, z. B. Prometheus, Grafana, Loki oder OpenTelemetry
 - Kenntnisse relevanter Anforderungen wie EU AI Act und DSGVO
 - Gute Deutsch- und Englischkenntnisse in Wort und Schrift
 - Erfahrung mit Open-Source-KI-Plattformen wie Open WebUI, KubeRay, Kubeflow oder MLflow
 - Kenntnisse in RAG, GraphRAG und Vektordatenbanken
 - Erfahrung mit Fine-Tuning, Modellmanagement sowie MLOps-/LLMOps-Prozessen
 - Kenntnisse im Bereich AI Gateways, API-Management und Guardrails
 - Analytisches Denkvermögen und ausgeprägte Problemlösungskompetenz
 - Selbstständige, lösungsorientierte und strukturierte Arbeitsweise
 - Kommunikationsstärke, Teamgeist und hohe Serviceorientierung
 - Motivation, sich eigenständig in neue Themengebiete einzuarbeiten

## Description

Verantwortung für Planung, Betrieb und Weiterentwicklung einer sicheren und skalierbaren KI-Plattform und Inferenz-Cluster

 - Betrieb und Administration von KI-Infrastrukturen, Storage- und GPU-Systemen
 - Aufbau und Betrieb von GPU-Clustern sowie Kubernetes-Umgebungen
 - Deployment und Betrieb von Large Language Models (LLMs) sowie Optimierung von Inferenz-Workloads
 - Umsetzung von Backup-, Recovery- und Disaster-Recovery-Konzepten
 - Administration von Identity- und Access-Management sowie Absicherung von KI-APIs und Modellen
 - Monitoring, Fehlerbehebung, Automatisierung und Dokumentation der Plattform
 - Sicherstellung von Governance, Auditierbarkeit und Einhaltung relevanter Standards und Vorgaben