ML Infrastructure Engineer
Role details
Job location
Tech stack
Job description
- Aufbau und Betrieb einer Model-Serving-Plattform (z. B. Triton Inference Server)
- Integration unterschiedlichster Modelltypen und Frameworks (z. B. PyTorch, TensorFlow)
- Entwicklung von Inference APIs (Batch & Streaming)
- Design robuster Input- und Output-Schemata für ML-Modelle
- Performance-Optimierung (Latenz, Durchsatz, GPU-Auslastung)
- Containerisierung und Deployment von Modellen (Docker, AWS), * du an eine digitale Welt glaubst, in der die intelligente Nutzung von IT zum Erfolg führt.
- du mit uns diese Welt nachhaltig gestalten willst.
- unsere jahrzehntelange Erfahrung und unser globales Netzwerk dir einen idealen Rahmen zur persönlichen Weiterentwicklung bieten.
- wir eine Kultur der Vielfalt leben, bei der sich unsere Mitarbeitenden, wertgeschätzt & respektiert fühlen.
Requirements
- Sehr gute Python-Kenntnisse (Backend / ML Runtime)
- Erfahrung mit ML Inference & Serving (z. B. Triton, TorchServe oder eigene Runtimes)
- Fundiertes Verständnis von:
- Model-Inputs und -Outputs
- Batching vs. Streaming
- FP32 / FP16 / Quantisierung.
- Sicherer Umgang mit Docker und produktiven Deployments.
- Starke Debugging-Fähigkeiten in verteilten ML-Systemen.
- Grundkenntnisse in CUDA / GPU-Computing.
- Sehr gute Deutsch- und Englischkenntnisse.
About the company
Als Vorreiter für digitale Transformation entwickelt GFT nachhaltige Lösungen rund um zukunftsweisende Technologien – von Cloud Engineering über künstliche Intelligenz bis hin zu Blockchain/DLT.
Mit tiefer Technologiekompetenz, starken Partnerschaften und umfassenden Marktkenntnissen berät GFT die Finanz- und Versicherungsbranche sowie die Industrie. Durch den intelligenten Einsatz von IT-Lösungen steigert GFT die Produktivität und schafft so Mehrwert für Kunden. Unternehmen erhalten einfachen und sicheren Zugang zu skalierbaren IT-Anwendungen und innovativen Geschäftsmodellen.
Gegründet 1987 und in mehr als 15 Märkten kundennah präsent, umfasst das GFT Team über 10.000 engagierte Talente. Diese finden bei GFT Karrieremöglichkeiten rund um Softwareentwicklung und Innovation. Die GFT Technologies SE Aktie ist im SDAX der Deutsche Börse AG gelistet.