Software Engineer - Agentic AI Systems

Newroom Media GmbH
Köln, Germany
yesterday

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Shift work
Languages
English, German
Compensation
€ 60K

Job location

Köln, Germany

Tech stack

HTML
API
Artificial Intelligence
Airflow
Amazon Web Services (AWS)
Amazon Web Services (AWS)
User Authentication
Azure
Cloud Computing
Computer Programming
Databases
Continuous Integration
Information Engineering
ETL
Data Warehousing
DevOps
Identity and Access Management
Python
PostgreSQL
NoSQL
OAuth
OpenID
RabbitMQ
Redis
Release Management
Software Engineering
SQL Databases
SQLAlchemy
TypeScript
Management of Software Versions
Web Application Frameworks
Openapi
Tailwind
React
Large Language Models
Backend
GIT
FastAPI
WebPack
Angular
Kubernetes
Information Technology
Kafka
GraphQL
Front End Software Development
REST
Docker
Web Api

Job description

  • Konzeption und Entwicklung produktionsreifer KI-Agenten und Multi-Agenten-Workflows für reale Use Cases - von Rollenverteilung und Tool-Nutzung über Planungs- und Reasoning-Loops bis hin zu Memory- und State-Management über mehrere Agenten hinweg
  • Auswahl und Integration von Agent-Orchestrierungs-Frameworks und Interop-Protokollen (z. B. LangGraph, CrewAI, AutoGen, Semantic Kernel, PydanticAI, MCP, Vendor Agent SDKs) und deren Anbindung an bestehende REST-APIs, Event-Streams und Datenpipelines
  • Treffen und Dokumentieren von Architekturentscheidungen (ADRs) sowie Sicherstellen nicht-funktionaler Anforderungen (Zuverlässigkeit, Kosten- und Latenzkontrolle, Nachvollziehbarkeit von Agenten-Entscheidungen)
  • Instrumentierung des Agenten-Verhaltens für Tracing, Evaluation, Guardrails und Reproduzierbarkeit nicht-deterministischer Läufe, * Erweiterung unserer event-getriebenen Python-Datenplattform (FastAPI-Services, Pipeline-Orchestrierung, Event Bus, relationale und Vektor-Speicher, Object Storage) um die Schnittstellen, die Agenten benötigen - neue Event-Typen, aufrufbare Tools, Retrieval-Endpunkte, Human-in-the-Loop-Berührungspunkte
  • Zusammenarbeit über Disziplingrenzen hinweg - vom Data Engineering über das Backend (Python / FastAPI) bis zu DevOps - für den produktiven Betrieb von Agentensystemen in Container-Deployments (Docker Compose in Produktion; Kubernetes-Erfahrung von Vorteil)

Qualität & Betrieb

  • Erstellung von qualitativ hochwertigem, testbarem Code - eigenständig und mit KI-Unterstützung (agentische Coding-Tools) - sowie Code- und Pull-Request-Reviews
  • Evaluation und Monitoring des Agenten-Verhaltens (Tracing, Guardrails, Fehlerbehandlung nicht-deterministischen Verhaltens)
  • Eigenständige Problemanalyse, Troubleshooting und Deployments (CI/CD, Container- und Cloud-Deployments)
  • Verantwortung für Betriebssicherheit und Stabilität der Agentensysteme (Troubleshooting in Produktion, Release-Management) - in unserer nach ISO 27001 zertifizierten Umgebung

Team & Zusammenarbeit

  • Enger Austausch mit Product Ownern, Stakeholdern und Kund:innen zur Klärung von Use Cases und Machbarkeit
  • Aktive Teilnahme am agilen Prozess (Task-Refinement, Aufwandsschätzungen, Sprint-Planung)
  • Wissenstransfer im Team zu agentischen KI-Praktiken und -Tools

Requirements

  • Loyalität und Integrität
  • Freude an Teamarbeit und kollaborativem Arbeiten
  • Wunsch nach selbstbestimmtem und selbstorganisiertem Arbeiten
  • Erfolgreich abgeschlossenes Studium der Informatik, Wirtschaftsinformatik oder eines vergleichbaren Studiengangs - oder eine abgeschlossene Ausbildung im Fachbereich
  • Mehrjährige Berufserfahrung in der Softwareentwicklung sowie praktische Erfahrung mit LLM-basierten Anwendungen oder Agentensystemen im produktiven Einsatz
  • Verständnis gängiger LLM-Anwendungsmuster: Prompting, Tool- / Function-Calling, RAG, Kontext- und Memory-Management
  • Direkte Erfahrung mit der Integration gehosteter LLM-Provider-APIs (z. B. Anthropic, OpenAI, Google, Mistral) im produktiven Einsatz - einschließlich Fehlerbehandlung, Rate-Limit-Resilienz sowie Kosten- und Latenzsteuerung
  • Praktische Erfahrung mit mindestens einem Agent- / Orchestrierungs-Framework (z. B. LangGraph, CrewAI, AutoGen, Semantic Kernel, PydanticAI, Vendor SDKs oder vergleichbare Eigenentwicklungen)
  • Praktische Erfahrung mit dem Model Context Protocol (MCP) - Aufbau oder Nutzung von MCP-Servern, um Agenten Tools bereitzustellen
  • Gute Programmierkenntnisse in Python (FastAPI oder vergleichbares asynchrones Web-Framework); Kenntnisse in TypeScript (Angular / React) sind von Vorteil
  • Fundierte Kenntnisse im Design von Web-APIs (REST, OpenAPI, Versionierung, Contract-Disziplin)
  • Solide Data-Engineering-Grundlagen (SQL / PostgreSQL, relationale Datenmodellierung, Schema-Migrationen, ETL- / ELT-Konzepte)
  • Fundierte Kenntnisse zu Vektordatenbanken und Retrieval-Strategien (pgvector, Qdrant, Weaviate oder vergleichbar) - zentral für unsere Retrieval- und Agent-Memory-Schichten
  • Praktische Erfahrung mit einem Pipeline- / Workflow-Orchestrierungs-Tool (Dagster, Airflow, Prefect, Temporal oder vergleichbar) - die Kategorie zählt mehr als das konkrete Produkt
  • Praktische Erfahrung mit event-getriebenen Architekturen und Stream- / Queue-Systemen (Redis Streams, Kafka, NATS, RabbitMQ oder vergleichbar)
  • Erfahrung mit modernen DevOps-Praktiken und -Tools (Git, CI/CD, Docker, idealerweise Kubernetes)
  • Erfahrung mit Cloud-Computing-Anbietern wie STACKIT, AWS oder Microsoft Azure - idealerweise mit Deployments unter EU-Datenhaltung
  • Bewusstsein für die Besonderheiten nicht-deterministischer Systeme (Testing, Evaluation, Observability von Agenten-Verhalten)
  • Souveränes Arbeiten in einer nach ISO 27001 zertifizierten Umgebung - Umgang mit Secrets, Audit-Trails, mandantenbezogene Datentrennung
  • Hohes Auffassungsvermögen, lösungsorientierte und effiziente Arbeitsweise
  • Gute Deutsch- und Englischkenntnisse in Wort und Schrift

Großartig wären zusätzlich:

  • Erfahrung mit Evaluation- / Tracing-Tools für LLM- und Agent-Anwendungen (z. B. LangFuse, LangSmith, Braintrust, Weights & Biases)
  • Kenntnisse begleitender Technologien (SQLModel / SQLAlchemy, ORM und Datenbank-Migrationen, NoSQL, GraphQL)
  • Erfahrung mit Identity & Access Management oder Authentifizierung (OIDC / OAuth2, JWT)
  • Vertrautheit mit selbst gehostetem Object Storage / S3-kompatiblen Systemen (SeaweedFS, MinIO oder vergleichbar)
  • Vorerfahrung mit Ingestion-Pipelines (RSS / Atom, Compliance-konformes HTML-Scraping, E-Mail und Anhänge, Dokumentenextraktion)
  • Frontend-Prototyping mit React + Vite + Tailwind oder Angular für Agent-Facing-UIs

Benefits & conditions

  • Flexible Arbeitszeiten
  • Möglichkeit zum hybriden Arbeiten
  • Spannende und herausfordernde Projekte
  • Dynamisches und agiles Arbeitsumfeld
  • Attraktives Gehaltspaket
  • Raum zur persönlichen Entfaltung und Weiterentwicklung, Gehalt: 3.500,00€ - 5.000,00€ pro Monat

Leistungen:

  • Firmenevents
  • Flexible Arbeitszeiten

Apply for this position