AI Platform Engineer (all genders)

DATAGROUP Operate IT GmbH
Germany
about 1 month ago

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Job source

Tech stack

Artificial Intelligence Microsoft Azure Cloud Computing Databases Continuous Integration Linux DevOps Python (Programming Language) PostgreSQL Data Logging Cloud Platform System Large Language Models
+3 more
Kubernetes Information Technology Docker

Job description

  • Du entwickelst und betreibst unsere souveräne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur
  • Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking
  • Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher
  • Du etablierst Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste
  • Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter
  • Du automatisierst Deployments und verantwortest CI/CD-Prozesse für unsere Eigenentwicklungen
  • Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst für Stabilität, Sicherheit und Verfügbarkeit
  • Du baust Monitoring-, Logging- und Alerting-Lösungen auf und entwickelst diese weiter
  • Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit
  • Du etablierst Infrastructure as Code und standardisierte Deployment-Prozesse
  • Du sorgst für datenschutzkonforme und mandantensichere Betriebsmodelle
  • Du dokumentierst Lösungen, teilst Wissen im Team und evaluierst neue Technologien im Bereich Platform Engineering und KI

Requirements

  • Abgeschlossenes Studium der (Wirtschafts-) Informatik oder eine vergleichbare Qualifikation
  • Mehrjährige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld
  • Fundierte Praxiserfahrung im Betrieb containerbasierter Anwendungen und moderner Plattformen
  • Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise in selbst gehosteten Umgebungen
  • Sehr gute Kenntnisse in Kubernetes, Docker und Linux
  • Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insbesondere Azure) sowie PostgreSQL
  • Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen
  • Solide Python-Kenntnisse für Automatisierung und Integrationen
  • Eigenständige und strukturierte Arbeitsweise mit hoher Eigenverantwortung sowie Sicherheits- und Datenschutzbewusstsein
  • Ausgeprägtes Architektur- und Platformverständnis

Benefits & conditions

DATAGROUP ist einer der führenden deutschen IT-Dienstleister - dank unseres engagierten Teams. Unsere Leidenschaft für Technologie und Innovation ermöglicht es uns, unseren Kunden verlässliche IT-Services zu liefern. Bei uns erwartet Dich ein fesselndes und anspruchsvolles Aufgabengebiet in einem innovativen Unternehmen. Eine offene Unternehmenskultur, individuelle Weiterbildungsmöglichkeiten und vielfältige Entwicklungschancen bedeuten einen Arbeitsplatz maßgeschneidert für Dich und Dein Leben., * Bei uns erwartet dich eine offene und kooperative Unternehmenskultur sowie eine vertrauensvolle Arbeitsatmosphäre

  • Selbstverständlich erhältst du eine umfassende Einarbeitung mit Unterstützung des gesamten AIS Teams mit flachen Hierarchien - kurzen Entscheidungswegen und hoher Gestaltungsfreiheit
  • Strategische Gestaltungsrolle mit großem Einfluss auf die zukünftige Plattformlandschaft
  • Mitarbeit an einem der spannendsten Technologiefelder der IT: souveränes LLM-Hosting und KI-Infrastrukturen
  • Moderne Infrastruktur mit Kubernetes, Docker, CI/CD und Cloud-Technologien
  • Die Möglichkeit, Standards, Prozesse und Architekturentscheidungen aktiv mitzugestalten
  • Individuelles Weiterbildungsbudget für Konferenzen, Zertifizierungen und Fachtrainings
  • Klare Karriere- und Entwicklungspfade
  • Möglichkeit zur Spezialisierung als AI Platform Engineer bzw. LLMOps-Experte
  • Kleines, fokussiertes und agiles Team mit kurzen Entscheidungswegen
  • Offene Feedback-Kultur mit regelmäßigen 1:1-Gesprächen und Retrospektiven

Du möchtest nicht nur Systeme betreiben, sondern eine strategisch zentrale Plattform von Grund auf mitgestalten? Du bewegst dich sicher zwischen Kubernetes-Clustern, CI/CD-Pipelines und modernen KI-Technologien? Dann bist Du bei uns genau richtig!

Apply for this position

This job is hosted externally. Click below to view the full posting and apply.

Apply on de.indeed.com

Good distractions

Talks and stories from around this role — technically off-topic, practically not.

3:03 min

Career evolution in data engineering and AI platforms

Maria Apazoglou · Coffee With Developers

52 sec

Running persistent Linux environments directly on Windows

Ben Breard Ben Breard · WWC 2025

2:17 min

Mapping the maturity roadmap for scaled devops adoption

Dominik Krichbaum Dominik Krichbaum · WWC Europe 2026

2:07 min

Inspecting default bridge architectures and custom Docker networks

Oliver Seitz Oliver Seitz · WWC 2025

1:55 min

Digital customer experience platforms and current development processes

Bastian Heilemann Bastian Heilemann +1 · WWC Europe 2026

2:39 min

Experiencing core Linux capabilities for DevOps administration

Michael Cade · LIVE

Videos

See all

Related articles

See all