DevOps Engineer - AI / LLMOps

SOMI Solutions GmbH
Frankfurt am Main, Germany
1 day ago
Apply on jobs.meinestadt.de
Prepare application

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Experience level
Experienced
Experience required
3 years minimum
Working hours
Regular working hours
Languages
English, German

Tech stack

Agile Methodology Artificial Intelligence Automation of Tests Cyber Security Continuous Integration DevOps Data Logging Large Language Models Software Security Machine Learning Operations

Job description

API Security Compliance BenchMarking Berufserfahrung Test Automation Englisch Automated Testing Analyse Automation Testing Cyber-Security DevOps Continuous Integration Datenschutz Automatisierung Deutsch Verhandlungsgeschick, Für ein spannendes Projekt im Umfeld einer KI-gestützten Datenqualitätslösung suchen wir einen erfahrenen DevOps Engineer (m/w/d) mit Schwerpunkt auf AI-Architekturen, LLMOps, CI/CD und IT-Security.

Ziel des Projekts ist die Weiterentwicklung und produktionsreife Bereitstellung einer KI-basierten Anwendung zur automatisierten Messung und Sicherstellung von Datenqualität., * Analyse und Weiterentwicklung einer bestehenden KI-/AI-Architektur hinsichtlich Skalierbarkeit, Integration und Betriebsfähigkeit

  • Umsetzung von Maßnahmen für eine produktionsreife AI-Lösung , einschließlich Architektur-Hardening und API-Integration
  • IT-Sicherheits-, Governance-, Datenschutz- und Compliance-Anforderungen
  • CI/CD-Pipelines mit Fokus auf LLMOps
  • Aufbau und Nutzung von Prompt-/Model Registries, Evaluation Pipelines, Tracing und Feedback Loops
  • Durchführung von Threat Modeling und Abuse-Case-Analysen , insbesondere hinsichtlich Prompt Injection, Tool Abuse, sensibler Daten und Datenexfiltration
  • Automatisierung wiederkehrender Prozesse
  • Benchmarking und Bewertung von KI-Modellen hinsichtlich Qualität, Performance, Kosten und Robustheit
  • Monitoring von Systemen und Anwendungen mittels Logging, Metrics, Tracing und LLM-/Agent-Telemetrie
  • Unterstützung bei Incident Handling, Recovery und Betriebsübergaben

Requirements

  • 3 Jahre Erfahrung mit Implementierung und Wartung von AI-Architekturen
  • Praktische Erfahrung in der Fullstack-Entwicklung und Zusammenarbeit mit Softwareentwicklern
  • CI/CD und LLMOps
  • Prompt-/Model Registry, Evaluation Pipelines, Tracing und Feedback Loops
  • Erfahrung im Bereich AI Security , insbesondere Threat Modeling und Abuse-Case-Analyse
  • Prompt Injection, Datenexfiltration und Tool Abuse
  • Skripten und Automatisierungstools
  • C2-Niveau Von Vorteil:

  • Erfahrung in der Dokumentation von Prozessen, Systemen und Anwendungen
  • Evaluierung und Einführung neuer DevOps-Technologien und -Tools
  • Erfahrung mit Observability : Logging, Metrics, Tracing, SLOs und Telemetrie
  • Kenntnisse in Zugriffssteuerung, Angriffserkennung und Cyber-Security
  • Erfahrung mit agilen Methoden, Continuous Integration/Delivery und Testautomatisierung Sprachanforderungen

  • Deutsch: Verhandlungssicher
  • Englisch: Erweiterte Kenntnisse

Apply for this position

This job is hosted externally. Click below to view the full posting and apply.

Apply on jobs.meinestadt.de
Prepare application

Good distractions

Talks and stories from around this role — technically off-topic, practically not.

4:19 min

Introduction to DevOps for AI and MLOps

Aarno Aukia · LIVE

1:22 min

Analyzing differences between mobile and traditional backend DevOps

Mete Baydar Mete Baydar · World Congress 2025

1:10 min

Exposing sensitive information through partial search logs

Dennis Schulz Dennis Schulz +1 · World Congress 2026 Europe

4:11 min

Introduction to cloud-native application developer security

Micah Silverman · World Congress 2022

2:59 min

Defining LLMOps and its workflow automation benefits

Maxim Salnikov Maxim Salnikov · LIVE

3:27 min

Defining DevOps through its historical origins and foundational texts

Sonal Patil · LIVE

Videos

See all

Related articles

See all