Senior Data Engineer (mwd)

Vesterling Consulting GmbH
Frankfurt am Main, Germany
28 days ago
Apply on www.indeed.com
Prepare application

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Experience level
Expert
Working hours
Regular working hours
Languages
English, German
Job source

Tech stack

Application Programming Interfaces (APIs) Artificial Intelligence Airflow Microsoft Azure Cloud Computing COBOL (Programming Language) Continuous Integration Directed Acyclic Graph (Directed Graphs) Data Governance DevOps Github Apache Hive
+26 more
Python (Programming Language) Mainframes NumPy Parsing Performance Tuning Swagger SciPy Openapi File Transfer Protocol (FTP) Flask (Web Framework) IT Architecture Infrastructure as Code (IaC) Backend Git Fastapi Pandas Matplotlib Containerization Data Lakes Pyspark Apache Kafka Data Lakehouse Restful APIs Docker Databricks Microservices

Job description

  • Als Senior Data Engineer erarbeiten Sie Lösungen im Banken- und Börsenumfeld. Sie migrieren dabei Legacy Mainframe-Systeme (COBOL, Flat Files) in moderne Cloud-Lakehouses.
  • Ihre Tätigkeit erbringen Sie im folgenden Umfeld:
  • Compute & Processing Engine: Databricks, PySpark, Python (pandas, numpy, scipy, os, itertools, matplotlib etc.), Spark SQL, Delta Lake
  • Data Lakehouse Storage: Delta Lake (ACID-Transaktionen, Time Travel, Schema Enforcement)
  • Orchestrierung & Workflow: Apache Airflow, Databricks Workflows (DAGs, Scheduling, Alerts)
  • API & Microservices: Python (FastAPI / Flask), OpenAPI / Swagger, Entwicklung von RESTful APIs
  • Data Governance & Mesh: Databricks Unity Catalog, OpenAPI Data Contracts
  • Legacy & File Ingestion: Mainframe EBCDIC, Fixed-Width-File-Parser (KI-gestützt), Kafka, SFTP
  • Infrastructure as Code (IaC): Cloud-Technologien, MS Azure
  • CI/CD & DevOps: GitHub Actions / Azure DevOps, Docker, Git

Requirements

  • Sie haben mehrjährige Berufserfahrung im nachfolgenden Technologieumfeld:
  • Databricks & PySpark: fundierte Kenntnisse in PySpark, Delta Lake, Performance Tuning, Partitionierungsstrategien sowie Databricks Unity Catalog
  • API-Entwicklung: ausgeprägte Python-Kenntnisse im Backend-Bereich (FastAPI, Flask, Requests, Pydantic, Containerisierung mit Docker)
  • Orchestrierung: Erfahrung im Schreiben komplexer Apache-Airflow-DAGs und/oder vergleichbarer Workflow-Tools
  • IT-Architektur: Kenntnisse der Medallion-Architektur, dezentraler Data-Mesh-Ansätze sowie allgemeiner Backend-Architekturen
  • Sie haben gute Deutsch- und Englischkenntnisse

About the company

Ihre Daten werden von uns niemals ohne Ihre explizite Zustimmung für jeden Einzelfall weitergeleitet. Wir garantieren eine Rückmeldung innerhalb von 2 Arbeitstagen.

Vesterling ist seit über 25 Jahren einer der führenden Personaldienstleister im Bereich Technologie. Schwerpunkte der Tätigkeit sind das Recruiting von Experten bis hin zum Executive Search auf Vorstandsebene sowie das Outplacement. Unsere Consultants, selbst erfahrene Informatiker und Ingenieure, beraten Sie in allen Karrierefragen und unterstützen Sie bei der Auswahl geeigneter Positionen.

Apply for this position

This job is hosted externally. Click below to view the full posting and apply.

Apply on www.indeed.com
Prepare application

Good distractions

Loading talks and stories from around this role…