CDI - Data Engineer Databricks (AWS) - 3 à 7 ans d'expérience

Hexateam
Canton of Courbevoie-2, France
28 days ago

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Languages
French
Experience level
Intermediate

Job location

Canton of Courbevoie-2, France

Tech stack

Airflow
Amazon Web Services (AWS)
Amazon Web Services (AWS)
Big Data
Python
Oracle Applications
Spark
Data Lake
Databricks

Job description

Dans le cadre de notre croissance, nous recrutons un Data Engineer pour intervenir sur des environnements Databricks sur AWS, avec des enjeux d?ingestion, de transformation et de fiabilité des données., Développement et ingestion de données

? Concevoir et développer des pipelines de données en Python et Spark sur Databricks

? Mettre en place des flux entre sources externes (ex : Oracle) et un Data Lake (S3 / Delta Lake)

? Optimiser les traitements et les performances

Orchestration et qualité des données

? Orchestrer les workflows avec AWS Airflow

? Mettre en place des contrôles qualité et des mécanismes de validation

? Développer des outils de monitoring et de gestion des anomalies

Maintien en condition opérationnelle

? Assurer la disponibilité et la performance des pipelines

? Diagnostiquer et corriger les incidents

? Participer à l?amélioration continue des traitements

Contribution

? Participer aux ateliers techniques et aux échanges avec les équipes

? Documenter les pipelines, architectures et processus

? Contribuer aux bonnes pratiques Data et Big Data

Requirements

? 3 à 7 ans d?expérience en Data Engineering

Apply for this position