AI Platform Engineer (all genders)

DATAGROUP Operate IT GmbH
Germany
3 months ago
Apply on de.indeed.com
Prepare application

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Job source

Tech stack

Artificial Intelligence Microsoft Azure Cloud Computing Databases Continuous Integration Linux DevOps Python (Programming Language) PostgreSQL Data Logging Cloud Platform System Large Language Models
+3 more
Kubernetes Information Technology Docker

Job description

  • Du entwickelst und betreibst unsere souverĂ€ne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur
  • Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking
  • Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher
  • Du etablierst Monitoring und Observability fĂŒr Performance, QualitĂ€t und Nutzung der KI-Dienste
  • Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter
  • Du automatisierst Deployments und verantwortest CI/CD-Prozesse fĂŒr unsere Eigenentwicklungen
  • Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst fĂŒr StabilitĂ€t, Sicherheit und VerfĂŒgbarkeit
  • Du baust Monitoring-, Logging- und Alerting-Lösungen auf und entwickelst diese weiter
  • Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit
  • Du etablierst Infrastructure as Code und standardisierte Deployment-Prozesse
  • Du sorgst fĂŒr datenschutzkonforme und mandantensichere Betriebsmodelle
  • Du dokumentierst Lösungen, teilst Wissen im Team und evaluierst neue Technologien im Bereich Platform Engineering und KI

Requirements

  • Abgeschlossenes Studium der (Wirtschafts-) Informatik oder eine vergleichbare Qualifikation
  • MehrjĂ€hrige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld
  • Fundierte Praxiserfahrung im Betrieb containerbasierter Anwendungen und moderner Plattformen
  • Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise in selbst gehosteten Umgebungen
  • Sehr gute Kenntnisse in Kubernetes, Docker und Linux
  • Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insbesondere Azure) sowie PostgreSQL
  • Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen
  • Solide Python-Kenntnisse fĂŒr Automatisierung und Integrationen
  • EigenstĂ€ndige und strukturierte Arbeitsweise mit hoher Eigenverantwortung sowie Sicherheits- und Datenschutzbewusstsein
  • AusgeprĂ€gtes Architektur- und PlatformverstĂ€ndnis

Benefits & conditions

DATAGROUP ist einer der fĂŒhrenden deutschen IT-Dienstleister - dank unseres engagierten Teams. Unsere Leidenschaft fĂŒr Technologie und Innovation ermöglicht es uns, unseren Kunden verlĂ€ssliche IT-Services zu liefern. Bei uns erwartet Dich ein fesselndes und anspruchsvolles Aufgabengebiet in einem innovativen Unternehmen. Eine offene Unternehmenskultur, individuelle Weiterbildungsmöglichkeiten und vielfĂ€ltige Entwicklungschancen bedeuten einen Arbeitsplatz maßgeschneidert fĂŒr Dich und Dein Leben., * Bei uns erwartet dich eine offene und kooperative Unternehmenskultur sowie eine vertrauensvolle ArbeitsatmosphĂ€re

  • SelbstverstĂ€ndlich erhĂ€ltst du eine umfassende Einarbeitung mit UnterstĂŒtzung des gesamten AIS Teams mit flachen Hierarchien - kurzen Entscheidungswegen und hoher Gestaltungsfreiheit
  • Strategische Gestaltungsrolle mit großem Einfluss auf die zukĂŒnftige Plattformlandschaft
  • Mitarbeit an einem der spannendsten Technologiefelder der IT: souverĂ€nes LLM-Hosting und KI-Infrastrukturen
  • Moderne Infrastruktur mit Kubernetes, Docker, CI/CD und Cloud-Technologien
  • Die Möglichkeit, Standards, Prozesse und Architekturentscheidungen aktiv mitzugestalten
  • Individuelles Weiterbildungsbudget fĂŒr Konferenzen, Zertifizierungen und Fachtrainings
  • Klare Karriere- und Entwicklungspfade
  • Möglichkeit zur Spezialisierung als AI Platform Engineer bzw. LLMOps-Experte
  • Kleines, fokussiertes und agiles Team mit kurzen Entscheidungswegen
  • Offene Feedback-Kultur mit regelmĂ€ĂŸigen 1:1-GesprĂ€chen und Retrospektiven

Du möchtest nicht nur Systeme betreiben, sondern eine strategisch zentrale Plattform von Grund auf mitgestalten? Du bewegst dich sicher zwischen Kubernetes-Clustern, CI/CD-Pipelines und modernen KI-Technologien? Dann bist Du bei uns genau richtig!

Apply for this position

This job is hosted externally. Click below to view the full posting and apply.

Apply on de.indeed.com
Prepare application

Good distractions

Talks and stories from around this role — technically off-topic, practically not.

3:03 min

Career evolution in data engineering and AI platforms

Maria Apazoglou · Coffee With Developers

52 sec

Running persistent Linux environments directly on Windows

Ben Breard Ben Breard · World Congress 2025

2:17 min

Mapping the maturity roadmap for scaled devops adoption

Dominik Krichbaum Dominik Krichbaum · World Congress 2026 Europe

2:07 min

Inspecting default bridge architectures and custom Docker networks

Oliver Seitz Oliver Seitz · World Congress 2025

1:55 min

Digital customer experience platforms and current development processes

Bastian Heilemann Bastian Heilemann +1 · World Congress 2026 Europe

3:55 min

Demonstrating .NET installation on Debian and Azure Linux

Silvano Coriani Silvano Coriani · Europe 2026 Virtual

Videos

See all

Related articles

See all