> Markdown version of [/jobs/ext/1910484-beschaftigte-r-als-devops-mlops-engineer](https://www.wearedevelopers.com/jobs/ext/1910484-beschaftigte-r-als-devops-mlops-engineer). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md). --- # Beschäftigte*r als DevOps / MLOps Engineer - **Company:** RWTH Aachen - **Location:** Aachen, Germany - **Contract:** Temporary contract - **Skills:** .NET Framework, Application Programming Interfaces (APIs), Artificial Intelligence, Software System Penetration Testing, Bash Shell, C Sharp (Programming Language), Cloud Computing, Linux, DevOps, Python (Programming Language), Machine Learning, Open Source Technology, Performance Tuning, Regression Testing, Prometheus, Shell Script, Software Engineering, Test Management, Load Balancing, High Performance Computing, Large Language Models, Grafana, Parallel Computation, Script Language, Kubernetes, Information Technology, Slurm, Machine Learning Operations, Vimeo, Docker, Microservices - **Published:** August 4, 2026 - **Apply:** https://www.rwth-aachen.de/go/id/kbag/file/V000011333/ ## About the Role * Ein erfolgreich abgeschlossenes Hochschulstudium (Master oder vergleichbar) in der Informatik, den Natur- oder Ingenieurwissenschaften oder eine vergleichbare Qualifikation. * Sie besitzen fundierte Erfahrung im Umgang mit Linux-Systemen, inklusive Shell-Scripting sowie Paket- und Service-Management. * Sie verfügen über sichere Kenntnisse in Skriptsprachen (z. B. Bash, Python) und objekt-orientierten Programmiersprachen, vorzugsweise in C#/.NET. * Sie haben praktische Erfahrung mit Container-Technologien und deren Orchestrierung, zum Beispiel Docker, Docker Compose und Kubernetes. * Gute Kenntnisse in Deutsch und Englisch (mündlich sowie schriftlich) Idealerweise ergänzen folgende Kenntnisse und Erfahrungen Ihr Profil: * Praktische Erfahrung mit der Ausführung von KI-Modellen mit Hilfe von Inferenz-Plattformen oder Frameworks (z. B. Deployment von LLMs, Model-Serving). * Sicherer Umgang mit Hochleistungs-Clustern und gängigen Schedulern (z. B. SLURM, PBS, LSF) zur Submittierung und Verwaltung von Rechen-Jobs. * Kenntnisse im automatisierten Testen von KI-Modellen, inklusive Regressionstests sowie Last- und Penetrationstests. * Erfahrung in der Gestaltung von Micro-Service-Architekturen und der Implementierung von REST- bzw. gRPC-Schnittstellen * Vertrautheit mit Observability-Tools wie Prometheus, Grafana, Loki oder ähnlichen Stacks. * Praktische Erfahrung mit Retrieval-Augmented-Generation (RAG) und agentischen KI-Workflows * Begeisterung für Parallelisierung, High-Performance-Computing und aktuelle Anwendungsfelder im Bereich Künstliche Intelligenz und Machine Learning. * Persönlich überzeugen Sie durch Ihre hohe Motivation, Ihr Engagement sowie Ihre ausgeprägte soziale Kompetenz. Sie arbeiten gerne im Team, übernehmen Verantwortung und bringen sich aktiv mit Ihren Ideen ein. ## Description Die HPC-Gruppe PRAM des IT Centers entwickelt in enger Zusammenarbeit mit dem Lehrstuhl für Informatik 12 kontinuierlich ihre Methodenkompetenz im Bereich Hochleistungsrechnen und Künstlicher Intelligenz auf HPC-Systemen weiter. Die Hauptaufgaben dieser Arbeitsgruppe umfassen sowohl die Forschung als auch die methodische Unterstützung der Nutzerinnen und Nutzer bei Fragen zur Programmentwicklung, Fehlersuche, Performance-Tuning und Parallelisierung. Zudem stellt die Gruppe die erforderlichen Werkzeuge und Hilfsmittel für diese Aufgaben bereit. Zu Ihrem Aufgabenbereich gehören: Konzeption und Realisierung eines einheitlichen KI-Gateways * Weiterentwicklung eines standortübergreifenden Inferenz-Gateways, das Ressourcen aus unterschiedlichen Systemen (HPC-Cluster, Kubernetes-Umgebungen) zusammenführt. * Definition, Implementierung und Pflege standardisierter APIs/Schnittstellen für den einheitlichen Zugriff auf die Inferenz-Backends. Deployment von Large-Language-Modellen (LLMs), Load Balancing und Monitoring * Konfiguration, Deployment und Optimierung der Ausführung von Open-Source bzw. Open-Weight-LLMs auf Hochleistungsrechnern (HPC) sowie in Kubernetes-Clusters. * Anpassung der Betriebsbedingungen (Ressourcenzuweisung, Skalierung, Container-Images) an die jeweiligen Hosting-Szenarien. * Sicherstellung einer skalierbaren Lastverteilung, hohen Resilienz und Redundanz sowohl auf Ebene des Gateways als auch der lokalen Inferenz-Cluster. * Weiterentwicklung und Konfiguration des Monitorings für die Inferenz-Infrastruktur und einzelne Modell-Instanzen (Metriken, Alerting, Dashboarding). Qualitätssicherung und Testmanagement * Konzeption und Durchführung automatisierter Regression-Tests für KI-Modelle (Performance, Funktionalität, verschiedene Modalitäten). * Planung und Begleitung von Last- und Penetrationstests der gesamten Inferenz-Infrastruktur zur Gewährleistung von Sicherheit und Robustheit. Design, Implementierung und Integration agentischer KI-Workflows * Unterstützung bei Konzeption und Umsetzung von agenten-basierten Prozessen (z. B. Retrieval-Augmented-Generation), die die bereitgestellten KI-Modelle nutzen. * Einbindung der Inferenz-Ressourcen in RAG-Setups sowie Anbindung an Model-Context-Protocol (MCP) Services zur nahtlosen Orchestrierung. ## Related Videos - [Running Secure Life Science Research at Scale using Hybrid GPU HPC and Kubernetes 🧬](https://www.wearedevelopers.com/videos/100355-running-secure-life-science-research-at-scale-using-hybrid-gpu-hpc-and-kubernetes) - [Docker network without Docker](https://www.wearedevelopers.com/videos/1418-docker-network-without-docker) - [DevOps for Machine Learning](https://www.wearedevelopers.com/videos/179-devops-for-machine-learning) - [Shipping Faster with Less: Render on Cloud Hosting, AI Workloads, and the Future of DevOps](https://www.wearedevelopers.com/videos/1894-shipping-faster-with-less-render-on-cloud-hosting-ai-workloads-and-the-future-of-devops) - [Docker exec without Docker](https://www.wearedevelopers.com/videos/1094-docker-exec-without-docker) - [Discover the open source trio you didn’t expect: .NET and PostgreSQL on Linux](https://www.wearedevelopers.com/videos/2042-discover-the-open-source-trio-you-didn-t-expect-net-and-postgresql-on-linux) ## Related Articles - [Best Coding Boot Camps in Germany](https://www.wearedevelopers.com/magazine/237-best-coding-boot-camps-in-germany) - [The Most Popular IT Jobs on the Market](https://www.wearedevelopers.com/magazine/376-the-most-popular-it-jobs-on-the-market) - [System change: restart as developer?](https://www.wearedevelopers.com/magazine/39-system-change-restart-as-developer) - [The Biggest German Tech Companies](https://www.wearedevelopers.com/magazine/424-the-biggest-german-tech-companies) - [Finding IT & Technology English-speaking Jobs in Germany ](https://www.wearedevelopers.com/magazine/446-finding-it-technology-english-speaking-jobs-in-germany) - [Finding Jobs in Germany](https://www.wearedevelopers.com/magazine/375-finding-jobs-in-germany)