Senior Cloud AI & LLMOps Engineer
- Discuss this with your agent
- Open in Claude
- Open in ChatGPT
Prepare application
- Draft this with your agent
- Open in Claude
- Open in ChatGPT
Role details
Tech stack
Job description
- Architektur und Betrieb global skalierbarer Enterprise-Cloud-Infrastrukturen (Multi-Cloud, Hybrid) für geschäftskritische KI-Systeme.
- LLMOps auf Enterprise-Ebene: End-to-End Tracing, Continuous Evaluation, Monitoring, automatisierte Test-Pipelines und Governance-Schnittstellen.
- Performance- und Inferenz-Tuning von LLMs im Produktivbetrieb (Quantisierung, GPU-Auslastung, Serving-Optimierung via vLLM)., * Etablierung unternehmensweiter AI FinOps Strategien zur kontinuierlichen Kostenkontrolle und -optimierung.
- Sicherheits- und Compliance-Standards (Enterprise Security, API-Security, Verschlüsselung) für hochsensible Unternehmensdaten.
- Erfahrung in der fachlichen Leitung von DevOps- / Platform-Engineering-Teams und der Definition technischer Standards.
Requirements
- Ownership: Du übernimmst die Verantwortung für die Betriebsstabilität und strategische Architekturentscheidungen hochverfügbarer KI-Infrastrukturen.
- Strategischer Weitblick: Du erkennst Technologietrends frühzeitig und überführst sie in zukunftssichere, stabile Betriebskonzepte.
- Wissensmultiplikator: Du liebst es, dein Wissen aktiv an das Team weiterzugeben und komplexe Infrastrukturthemen verständlich zu vermitteln.
- Deutsch (sehr gut) und Englisch (fließend) sowie ein abgeschlossenes IT-Studium oder eine vergleichbare Qualifikation.
About the company
Arbeiten bei der BCM Solutions bedeutet beim besten Arbeitgeber mitzugestalten. Mit unseren Kolleginnen und Kollegen gestalten wir seit 2010 aktiv die BCM Solutions GmbH. Jährlich werden wir für unsere phänomenale Arbeit durch unsere BCM Community als bester Arbeitgeber ausgezeichnet. Als Marktführer für PREEvision überzeugen wir mit der Erfahrung unserer Mitarbeiter und Mitarbeiterinnen, die sie durch täglichen Einsatz bei unseren exklusiven Kunden unter Beweis stellen. Die BCM Solutions GmbH steht außerdem für hochwertige Softwarelösungen und Dienstleistungen im Bereich der Softwareentwicklung. Wir verbinden persönliche und fachliche Weiterentwicklung mit Spaß bei der Arbeit und bringen dadurch Kundenprojekte stets zum Erfolg!, Enterprise AI Operations: Du konzipierst und verantwortest die global skalierbare Betriebsinfrastruktur (Infrastruktur-Design) für geschäftskritische KI-Systeme.
-
️ High-End Optimization: Du leitest komplexe Inferenz-Optimierungsprojekte, etablierst fortgeschrittene Quantisierungs-Verfahren und minimierst Systemlatenzen.
-
️ Global FinOps Governance: Du setzt unternehmensweite Richtlinien zur Budgetkontrolle und Kosteneffizienz im Bereich rechenintensiver KI-Anwendungen um.
️ Security & Observability: Du stellst durch lückenloses Monitoring und Tracing sicher, dass alle Systeme den höchsten Standards für Datensicherheit und Compliance entsprechen.
Mentoring & Teamlead: Du leitest das LLMOps-Team fachlich an, treibst die technische Standardisierung voran und berätst die Kunden-Architekten auf Augenhöhe.
Zukunftsfähigkeit: Du evaluierst wegweisende Cloud-Trends (z. B. Serverless LLM Serving) und machst unsere Betriebsinfrastrukturen fit für die nächste Generation., * Du kannst in einem rollenbasierten Unternehmen arbeiten #NoHierarchieGehabe
- Du findest bei uns eine offene Unternehmenskommunikation und kurze Entscheidungswege wieder.
- Für Deinen optimalen Start bei der BCM steht ein umfangreiches und individuelles Onboarding-Programm in den Startlöchern.
- Kollegen auf Augenhöhe und unsere Personalentwicklung unterstützen Dich dabei, sowohl fachlich als auch persönlich aufs nächste Level zu kommen.
- Du arbeitest überwiegend remote und genießt dabei maximale Flexibilität. Je nach Projekt bist Du bereit, unsere Kunden remote oder direkt vor Ort zu unterstützen.
- Unvergessliche Mitarbeiterevents: monatliche Teamaktivitäten und ein BCM-Urlaub im Sommer.
- BCM stärkt Deine Balance, egal ob Work oder Life, wir stehen immer hinter Dir.
- Casual oder Anzug? Büro oder Homeoffice? Frühaufsteher oder Nachteule? Du entscheidest, bei uns hast Du die Freiheit, so zu arbeiten, wie es am besten zu Dir passt.
- Du läutest mit unserer BCM Community das Wochenende mit einem (hopfenreichen) Erfrischungsgetränk ein.
- Frisches Obst, Tee, Mineralwasser, Kaffee usw. in unserem Büro selbstverständlich.
Apply for this position
This job is hosted externally. Click below to view the full posting and apply.
Prepare application
- Draft this with your agent
- Open in Claude
- Open in ChatGPT
Good distractions
Loading talks and stories from around this role…