IT Administrator Schwerpunkt KI Plattform

Verantwortung für Planung, Betrieb und Weiterentwicklung einer sicheren und skalierbaren KI-Plattform und Inferenz-Cluster

• Betrieb und Administration von KI-Infrastrukturen, Storage- und GPU-Systemen
• Aufbau und Betrieb von GPU-Clustern sowie Kubernetes-Umgebungen
• Deployment und Betrieb von Large Language Models (LLMs) sowie Optimierung von Inferenz-Workloads
• Umsetzung von Backup-, Recovery- und Disaster-Recovery-Konzepten
• Administration von Identity- und Access-Management sowie Absicherung von KI-APIs und Modellen
• Monitoring, Fehlerbehebung, Automatisierung und Dokumentation der Plattform
• Sicherstellung von Governance, Auditierbarkeit und Einhaltung relevanter Standards und Vorgaben

Abgeschlossenes Studium der Informatik, Ausbildung zum Fachinformatiker Systemintegration oder vergleichbare Qualifikation

• Praktische Erfahrung im Aufbau und Betrieb von IT-Infrastrukturen, idealerweise im KI-Umfeld
• Erfahrung mit NVIDIA-GPU-Infrastrukturen und GPU-Clustern
• Fundierte Kenntnisse in Kubernetes (On-Premises)
• Erfahrung mit LLM-Frameworks wie vLLM, Ray Serve, SGLang oder vergleichbaren Technologien
• Kenntnisse in Docker, Helm, ArgoCD und GitOps
• Erfahrung mit Monitoring und Observability, z. B. Prometheus, Grafana, Loki oder OpenTelemetry
• Kenntnisse relevanter Anforderungen wie EU AI Act und DSGVO
• Gute Deutsch- und Englischkenntnisse in Wort und Schrift
• Erfahrung mit Open-Source-KI-Plattformen wie Open WebUI, KubeRay, Kubeflow oder MLflow
• Kenntnisse in RAG, GraphRAG und Vektordatenbanken
• Erfahrung mit Fine-Tuning, Modellmanagement sowie MLOps-/LLMOps-Prozessen
• Kenntnisse im Bereich AI Gateways, API-Management und Guardrails
• Analytisches Denkvermögen und ausgeprägte Problemlösungskompetenz
• Selbstständige, lösungsorientierte und strukturierte Arbeitsweise
• Kommunikationsstärke, Teamgeist und hohe Serviceorientierung
• Motivation, sich eigenständig in neue Themengebiete einzuarbeiten