MLOps Engineer für CI / CD & Inference Services

Finanz Informatik GmbH & Co. KG
Hannover, Germany
yesterday

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Shift work
Languages
German
Experience level
Senior

Job location

Hannover, Germany

Tech stack

API
Artificial Intelligence
Application Frameworks
Systems Engineering
Configuration Management
Continuous Integration
Github
Python
Software Engineering
Flask
Large Language Models
Spark
FastAPI
Gitlab-ci
Kubernetes
Information Technology
HuggingFace
Data Analytics
Machine Learning Operations
Nim (Programming Language)
REST
Jenkins

Job description

können. Ob App-Entwicklung, Netzwerktechnologien und Serverbetrieb oder Beratung, Schulung und Support - bei uns finden Sie Ihre Berufung! Als Spezialist:in oder auch als Generalist:in. Alles mit besten Karrierechancen, viel Raum für persönliche Entfaltung und zahlreichen Benefits.

Aufgaben:
Koordination der Automatisierung der Build-, Test- und Deployment-Prozesse für unsere Container-Anwendungen mit Jenkins, GitHub Actions oder GitLab CI, sowie Integration neuer Use Cases in die Plattform-Pipelines.
Orchestrierung von Containeranwendungen mit Helm und ArgoCD in Kubernetes-Clustern, sowie Verantwortlichkeit für sichere, reproduzierbare Deployments.
Entwicklung von APIs für die interne Plattformlogik im Python-Ökosystem - z.B. zur Steuerung von Modellbereitstellungen, Statusabfragen oder Konfigurationsmanagement.
Steuerung der Spark-Anwendungen, welche in Kubernetes mit dem Spark Operator betrieben werden - idealerweise mit Fokus auf verteilte Inferenz oder

Requirements

Preprocessing großer Datenmengen.
Bereitstellung von unimodalen (z.B. LLM, OCR, SST/TTS) und multimodalen KI-Modellen mittels Nvidia Triton, NIM oder Alternativen wie Huggingface TGI, TEI oder vLLM.
Steuerung der fachbereichsübergreifenden Zusammenarbeit, sowie aktive Einbringung der Erfahrung bei Architekturentscheidungen und Beratung zur Weiterentwicklung der Plattformdienste.
Diskurs mit globalen Herstellern für die zukunftsorientierte Weiterentwicklung der Plattformarchitektur.

Profil:
Abgeschlossenes Informatik - oder vergleichbares Studium oder Berufsausbildung sowie mindestens 6 Jahre fachbezogene Berufserfahrung
Umfangreiche Erfahrung in der Automatisierung von CI/CD-Pipelines (Jenkins, GitHub Actions, GitLab CI und Helm und ArgoCD für Kubernetes-basierte Deployments)
Kenntnisse in der Entwicklung von REST-APIs in Python (z.B. mit FastAPI oder Flask)
Optional, aber wertvoll: Erfahrung mit LLM-Inferenz, z.B. via Nvidia Triton, NIM

Apply for this position