ML Infrastructure Engineer

GFT Technologies
Stuttgart, Germany
7 days ago

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Languages
English, German

Job location

Remote
Eschborn, Germany

Tech stack

Amazon Web Services (AWS)
Nvidia CUDA
Software Debugging
Python
Data Streaming
Backend
Containerization
Docker

Job description

  • Aufbau und Betrieb einer Model-Serving-Plattform (z. B. Triton Inference Server)
  • Integration unterschiedlichster Modelltypen und Frameworks (z. B. PyTorch, TensorFlow)
  • Entwicklung von Inference APIs (Batch & Streaming)
  • Design robuster Input- und Output-Schemata für ML-Modelle
  • Performance-Optimierung (Latenz, Durchsatz, GPU-Auslastung)
  • Containerisierung und Deployment von Modellen (Docker, AWS), * du an eine digitale Welt glaubst, in der die intelligente Nutzung von IT zum Erfolg führt.
  • du mit uns diese Welt nachhaltig gestalten willst.
  • unsere jahrzehntelange Erfahrung und unser globales Netzwerk dir einen idealen Rahmen zur persönlichen Weiterentwicklung bieten.
  • wir eine Kultur der Vielfalt leben, bei der sich unsere Mitarbeitenden, wertgeschätzt & respektiert fühlen.

Requirements

  • Sehr gute Python-Kenntnisse (Backend / ML Runtime)
  • Erfahrung mit ML Inference & Serving (z. B. Triton, TorchServe oder eigene Runtimes)
  • Fundiertes Verständnis von:
  • Model-Inputs und -Outputs
  • Batching vs. Streaming
  • FP32 / FP16 / Quantisierung.
  • Sicherer Umgang mit Docker und produktiven Deployments.
  • Starke Debugging-Fähigkeiten in verteilten ML-Systemen.
  • Grundkenntnisse in CUDA / GPU-Computing.
  • Sehr gute Deutsch- und Englischkenntnisse.

About the company

Als Vorreiter für digitale Transformation entwickelt GFT nachhaltige Lösungen rund um zukunftsweisende Technologien – von Cloud Engineering über künstliche Intelligenz bis hin zu Blockchain/DLT. 
Mit tiefer Technologiekompetenz, starken Partnerschaften und umfassenden Marktkenntnissen berät GFT die Finanz- und Versicherungsbranche sowie die Industrie. Durch den intelligenten Einsatz von IT-Lösungen steigert GFT die Produktivität und schafft so Mehrwert für Kunden. Unternehmen erhalten einfachen und sicheren Zugang zu skalierbaren IT-Anwendungen und innovativen Geschäftsmodellen.
Gegründet 1987 und in mehr als 15 Märkten kundennah präsent, umfasst das GFT Team über 10.000 engagierte Talente. Diese finden bei GFT Karrieremöglichkeiten rund um Softwareentwicklung und Innovation. Die GFT Technologies SE Aktie ist im SDAX der Deutsche Börse AG gelistet.

Apply for this position