KI & DevOps Architekt

Deutsche Telekom AG
Berlin, Germany
about 1 month ago

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Compensation
€60,000.0 - €85,000.0
Working hours
Regular working hours
Job source

Tech stack

Java (Programming Language) Artificial Intelligence Cloud Computing Continuous Integration DevOps Spring Framework Open Source Technology Ansible Prometheus Software Engineering Large Language Models Grafana
+5 more
Containerization Kubernetes Information Technology Bare Metal Terraform

Job description

  • Architektur & Lösungsdesign: Du übersetzt B2B-Kundenanforderungen in skalierbare KI-Architekturen (insbesondere für RAG-Chatbots) und verantwortest das Design von der ersten Idee bis zum Rollout
  • Technische Leitung: Du übernimmst die technologische Steuerung der KI-Projekte, berätst unsere Kunden auf Augenhöhe und leitest interdisziplinäre Entwickler-Teams fachlich an
  • Hands-on Lösungsentwicklung: Du gestaltest die Softwareentwicklung aktiv mit und bringst Deine tiefgreifende Programmiererfahrung direkt bei der Umsetzung der KI-Anwendungen ein
  • Souveräner KI-Betrieb: Du konzipierst den sicheren und datenschutzkonformen Betrieb abseits der Hyperscaler (On-Premise oder Open Telekom Cloud) und verantwortest das Ressourcen-Management
  • Modell-Evaluierung: Du bewertest kontinuierlich das Ökosystem der Open-Source-Sprachmodelle und wählst technologisch sowie wirtschaftlich fundiert die passenden Modelle für die Kunden-Use-Cases aus
  • DevOps & Observability: Du verankerst moderne Automatisierungs- und Deployment-Praktiken im Projektalltag und etablierst ein durchgängiges Monitoring für Infrastruktur und Modell-Performance

Requirements

  • Abgeschlossenes Studium mit dem Schwerpunkt IT (z.B. Informatik, Wirtschaftsinformatik, Data Science, Mathematik) bzw. eine vergleichbare Ausbildung
  • Softwareentwicklung & KI-Frameworks: Tiefgehende, praxiserprobte Programmiererfahrung wahlweise im Python-Ökosystem (inklusive LangChain) ODER in der Java-Entwicklung (speziell mit Spring AI)
  • LLMs & RAG-Architekturen: Sehr gute Kenntnisse im Umgang mit Open-Source-Sprachmodellen, der Modell-Inference (vLLM) sowie dem Aufbau von Retrieval-Augmented Generation (RAG) Pipelines inklusive der Anbindung von Vektordatenbanken (z. B. Qdrant, Milvus oder pgvector)
  • Kubernetes & Containerisierung: Fundierte Praxis in der Architektur, Skalierung und Optimierung von Applikationen auf Kubernetes-Clustern sowie im generellen Container-Management
  • DevOps & Infrastruktur-Automatisierung: Sicherer Umgang mit Infrastructure as Code (z. B. Terraform, Ansible) sowie etablierte Erfahrung mit CI/CD-Pipelines und GitOps-Ansätzen (insbesondere ArgoCD)
  • Souveräner Betrieb & Hardware: Praktische Erfahrung im GPU-Management und dem sicheren Deployment von Anwendungen in souveränen Infrastrukturen (On-Premise, Bare-Metal oder Open Telekom Cloud)
  • Monitoring & Observability: Know-how im Aufbau eines ganzheitlichen und performanten Monitorings sowohl für die Systeminfrastruktur (Prometheus, Grafana) als auch für die KI-Modelle (z. B. LangSmith)

Benefits & conditions

  • Welcome Day - Ankommen und Netzwerken
  • Flexibilität - flexible Arbeitszeit mit Überstundenausgleich
  • Mobile Working - ortsungebundenes Arbeiten deutschlandweit möglich, mind. 1 Tag wöchentlich im Büro
  • Workation - Arbeite bis zu 20 Tage im Jahr im EU-Ausland
  • Top Equipment - moderne Arbeitsmittel, wie du sie brauchst
  • Weiterentwicklung - über 100 Weiterbildungen und Schulungen im Angebot
  • Betriebliche Altersvorsorge - wir legen was für dich zur Seite
  • Vorteile für Mitarbeitende - Rabatte bei zahlreichen Anbietern und Partnerunternehmen
  • Nachhaltigkeit - gemeinsam prägen wir das Leben und Arbeiten der Zukunft

Für diese Position sehen wir ein Bruttojahresgehalt in Höhe von 60.000,00 € bis 85.000,00 € vor. Die konkrete Einordnung erfolgt auf Basis objektiver und geschlechtsneutraler Kriterien, insbesondere der fachlichen Qualifikation, einschlägigen Berufserfahrung und des mit der Rolle verbundenen Verantwortungsumfangs.

Bei uns zählt der Mensch. Wir setzen uns aktiv für Entgeltgleichheit ein und gestalten unsere Vergütungsstrukturen transparent und diskriminierungsfrei. Unabhängig von Geschlecht, ethnischer Herkunft, Religion, Alter, sexueller Identität oder Behinderung leben wir Vielfalt und lehnen jede Form von Diskriminierung ab.

Bist du dabei?

Dann bewirb dich und zeig uns, wer du bist!

Du hast noch Fragen oder suchst nach fachspezifischen Informationen? Zögere nicht und kontaktiere mich.

Josephine Märtens Telefon/ WhatsApp: +49 351 - 2820 - 7555 #content_zone { max-width: 834px; } #scheme_detail_data { width:100%; display:table; margin-bottom: 10px; } .scheme-border { border: 1px solid rgba(220,223,226,0.8); } .scheme-margin { margin-top: 10px; } .scheme-display .scheme-content { font-size: 16px; padding: 14px 24px; background-color: #ffffff; line-height: 1.6; } .scheme-display .scheme-title { word-break: break-word; } .scheme-display .scheme-title h2 { margin: 0px; font-size: 28px; line-height: 2; padding: 0px; } .scheme-display .scheme-title ul { margin-bottom: 16px; } .scheme-display .video { width: 100%; height: 400px; } .scheme-display h2.scheme-headline { margin: 0px 0px 18px 0px; padding: 0px; } .scheme-display .content-images { position: relative; overflow: hidden; display: block; box-sizing: border-box; padding: 0px; } .scheme-display .content-images:not(:has(.content-images-frame)) { height: 335px; } #header_image { display: none; } #jobTplContainer ul.scheme-additional-data { margin-bottom: 0px; min-width: 40%; } .scheme-additional-data { float: left; margin: 0; padding: 0; list-style: none; } .scheme-additional-data li { list-style: none; margin: 4px 15px 0px -3px !important; } .scheme-additional-data li.left { float: left; } .scheme-display .slide-images:nth-child(2), .scheme-display .slide-images:nth-child(3) { display:none; } .scheme-display .slide-images { width: 100%; position:absolute; top: 50%; left: 50%; -webkit-transform: translate(-50%,-50%); -ms-transform: translate(-50%,-50%); } .scheme-display .content-images-frame { position: relative; width: 100%; height: 335px; overflow: hidden; } .scheme-display .content-images-description { display: block; text-align: left; font-size: 1rem; line-height: 1.4; color: #000; padding: 8px 24px; border-bottom: 1px solid rgba(220,223,226,0.8); } .scheme-content .user-image { width: 100px; height: 100px; border-radius: 50%; float: left; line-height: 100px; background: no-repeat center center; background-size: cover; } .scheme-content .user-data { height: 100px; margin-left: 80px; } .scheme-content .user-data li { list-style: none; } i.fa-fw { margin-right: 5px; margin-left: 5px; } @media (max-width: 768px) { .scheme-additional-data li { display: block; float: none; } .scheme-display .content-images { height: 250px; } } @media (max-width: 650px) { .scheme-display .content-images { height: 250px; } } @media (max-width: 450px) { .scheme-display .content-images { height: 133px; } } #frame_zone { background-color: #000000; }

Apply for this position

This job is hosted externally. Click below to view the full posting and apply.

Apply on de.indeed.com

Good distractions

Talks and stories from around this role — technically off-topic, practically not.

4:15 min

Introduction to artificial intelligence driven development

Natalie Pistunovich · LIVE

2:17 min

Mapping the maturity roadmap for scaled devops adoption

Dominik Krichbaum Dominik Krichbaum · WWC Europe 2026

10:40 min

Visualizing Prometheus open metrics using custom Grafana dashboards

Stijn Polfliet · LIVE

1:42 min

Automating Skupper deployments using Ansible

Alex Soto Alex Soto · WWC 2024

3:03 min

Career evolution in data engineering and AI platforms

Maria Apazoglou · Coffee With Developers

3:18 min

Scaling global network engineering through DevOps culture

Stuart Clark · LIVE

Videos

See all

Related articles

See all