Data Engineer - Bad Friedrichshall

• Du hast ausgeprägte Erfahrung im Data- oder Software Engineering über mindestens vier Jahre.
• Du verfügst über fundierte Kenntnisse in der Python-Entwicklung mit Fokus auf saubere Software-Prinzipien. Scala-Kenntnisse und praktische Erfahrung mit Softwaretests sind ein deutlicher Pluspunkt.
• Du bringst praktische Erfahrung in der Entwicklung von Batch- und Streaming-ETL-Pipelines mit. Du kennst dich mit Apache Spark, oder ähnlichen Frameworks, zur Ausführung von ETL Jobs, aus.
• Du bist vertraut im Umgang mit modernen Open-Table Formaten wie Apache Iceberg oder Delta Lake. Du weißt, wie man Schema-Evolution handhabt und Lakehouse Speicherstrukturen pflegt.
• Du orchestrierst komplexe Workflows souverän mittels Apache Airflow.
• Du verfügst über praktische Erfahrung mit Apache Kafka für Echtzeit-Messaging und Event-Processing.
• Du hast Erfahrung mit der Arbeit an containerisierten Anwendungen in Cloud-Umgebungen. Dies umfasst den praktischen Einsatz von Docker oder Kubernetes, vorzugsweise in der Google Cloud Platform.
• Du verstehst Mechanismen zur Datensicherheit und Datenkatalogisierung. Du bringst praktische Erfahrung in der Anwendung von Column- und Row-Level Security in Katalogen wie Unity Catalog mit.
• Du wendest etablierte Praktiken des DevOps- und Software-Engineering in deiner täglichen Arbeit an. Dazu gehören die Nutzung von Git, das Schreiben automatisierter Tests und das Bereitstellen von Code über CI/CD-Pipelines.
• Du verfolgst einen eigenverantwortlichen und detailorientierten Ansatz zur Gewährleistung von Datenintegrität. Du agierst erfolgreich in agilen Teamstrukturen und legst stets Wert auf hohe Qualität.

Schwarz Digits schafft das technologische Fundament für digitale Entscheidungsfreiheit in Europa. Als IT- und Digitalsparte der Schwarz Gruppe entwickeln und verantworten wir einerseits die IT-Infrastrukturen für die Handelssparten Lidl und Kaufland sowie die Schwarz Produktion und PreZero. Gleichzeitig agieren wir als unabhängiger Anbieter am externen Markt, um Unternehmen in ganz Europa bei ihrer digitalen Transformation zu unterstützen. Unsere Kernleistungen bündeln wir in den Bereichen Cloud, Cyber Security, Data & AI, Communication und Workspace. Trage auch du zur digitalen Entscheidungsfreiheit in Europa bei.

Bei uns arbeitest du an der Schnittstelle zwischen Agilität und Sicherheit: Du profitierst von den schnellen Entscheidungswegen, genießt echte Gestaltungsspielräume in deinen Projekten und baust dabei auf das stabile Fundament der Schwarz Gruppe.Deine Aufgaben

• ETL & Data Pipelines: Du entwickelst, betreibst und optimierst skalierbare ETL/ELT-Pipelines für Analytics und ML auf GCP.
• Lakehouse & Governance: Du baust Dateninfrastrukturen mit Open-Table-Formaten (Iceberg, Delta Lake) und setzt Zugriffsrechte (RLS/CLS), Kataloge (Unity Catalog) sowie Datenvalidierungen um.
• Streaming & Messaging: Du entwickelst und betreust Event-Driven-Lösungen mit Apache Kafka und Apache Spark.
• Software Excellence: Du schreibst sauberen, gut getesteten Code (Unit-, Integrations- & E2E-Tests) und wendest bewährte Softwaremuster an.
• DevOps & Operations: Du pflegst Airflow-DAGs, CI/CD-Pipelines sowie Kubernetes-Deployments und überwachst die Systemgesundheit zur Vermeidung von Ausfällen.
• Agile Kollaboration: Du arbeitest eng mit Data Scientists, Product Ownern und Fachbereichen zusammen, um Anforderungen in robuste Datenlösungen zu übersetzen.