AI Platform Engineer (all genders)

DATAGROUP Operate IT GmbH
Germany
about 1 month ago
Apply on de.indeed.com
Prepare application

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Job source

Tech stack

Artificial Intelligence Microsoft Azure Cloud Computing Databases Continuous Integration Linux DevOps Python (Programming Language) PostgreSQL Data Logging Cloud Platform System Large Language Models
+3 more
Kubernetes Information Technology Docker

Job description

  • Du entwickelst und betreibst unsere souveräne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur
  • Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking
  • Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher
  • Du etablierst Monitoring und Observability fĂźr Performance, Qualität und Nutzung der KI-Dienste
  • Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter
  • Du automatisierst Deployments und verantwortest CI/CD-Prozesse fĂźr unsere Eigenentwicklungen
  • Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst fĂźr Stabilität, Sicherheit und VerfĂźgbarkeit
  • Du baust Monitoring-, Logging- und Alerting-LĂśsungen auf und entwickelst diese weiter
  • Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit
  • Du etablierst Infrastructure as Code und standardisierte Deployment-Prozesse
  • Du sorgst fĂźr datenschutzkonforme und mandantensichere Betriebsmodelle
  • Du dokumentierst LĂśsungen, teilst Wissen im Team und evaluierst neue Technologien im Bereich Platform Engineering und KI

Requirements

  • Abgeschlossenes Studium der (Wirtschafts-) Informatik oder eine vergleichbare Qualifikation
  • Mehrjährige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld
  • Fundierte Praxiserfahrung im Betrieb containerbasierter Anwendungen und moderner Plattformen
  • Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise in selbst gehosteten Umgebungen
  • Sehr gute Kenntnisse in Kubernetes, Docker und Linux
  • Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insbesondere Azure) sowie PostgreSQL
  • Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-LĂśsungen
  • Solide Python-Kenntnisse fĂźr Automatisierung und Integrationen
  • Eigenständige und strukturierte Arbeitsweise mit hoher Eigenverantwortung sowie Sicherheits- und Datenschutzbewusstsein
  • Ausgeprägtes Architektur- und Platformverständnis

Benefits & conditions

DATAGROUP ist einer der führenden deutschen IT-Dienstleister - dank unseres engagierten Teams. Unsere Leidenschaft für Technologie und Innovation ermöglicht es uns, unseren Kunden verlässliche IT-Services zu liefern. Bei uns erwartet Dich ein fesselndes und anspruchsvolles Aufgabengebiet in einem innovativen Unternehmen. Eine offene Unternehmenskultur, individuelle Weiterbildungsmöglichkeiten und vielfältige Entwicklungschancen bedeuten einen Arbeitsplatz maßgeschneidert für Dich und Dein Leben., * Bei uns erwartet dich eine offene und kooperative Unternehmenskultur sowie eine vertrauensvolle Arbeitsatmosphäre

  • Selbstverständlich erhältst du eine umfassende Einarbeitung mit UnterstĂźtzung des gesamten AIS Teams mit flachen Hierarchien - kurzen Entscheidungswegen und hoher Gestaltungsfreiheit
  • Strategische Gestaltungsrolle mit großem Einfluss auf die zukĂźnftige Plattformlandschaft
  • Mitarbeit an einem der spannendsten Technologiefelder der IT: souveränes LLM-Hosting und KI-Infrastrukturen
  • Moderne Infrastruktur mit Kubernetes, Docker, CI/CD und Cloud-Technologien
  • Die MĂśglichkeit, Standards, Prozesse und Architekturentscheidungen aktiv mitzugestalten
  • Individuelles Weiterbildungsbudget fĂźr Konferenzen, Zertifizierungen und Fachtrainings
  • Klare Karriere- und Entwicklungspfade
  • MĂśglichkeit zur Spezialisierung als AI Platform Engineer bzw. LLMOps-Experte
  • Kleines, fokussiertes und agiles Team mit kurzen Entscheidungswegen
  • Offene Feedback-Kultur mit regelmäßigen 1:1-Gesprächen und Retrospektiven

Apply for this position

This job is hosted externally. Click below to view the full posting and apply.

Apply on de.indeed.com
Prepare application

Good distractions

Talks and stories from around this role — technically off-topic, practically not.

3:03 min

Career evolution in data engineering and AI platforms

Maria Apazoglou ¡ Coffee With Developers

52 sec

Running persistent Linux environments directly on Windows

Ben Breard Ben Breard ¡ World Congress 2025

1:22 min

Analyzing differences between mobile and traditional backend DevOps

Mete Baydar Mete Baydar ¡ World Congress 2025

2:07 min

Inspecting default bridge architectures and custom Docker networks

Oliver Seitz Oliver Seitz ¡ World Congress 2025

1:55 min

Digital customer experience platforms and current development processes

Bastian Heilemann Bastian Heilemann +1 ¡ World Congress 2026 Europe

3:55 min

Demonstrating .NET installation on Debian and Azure Linux

Silvano Coriani Silvano Coriani ¡ Europe 2026 Virtual

Videos

See all

Related articles

See all