Data Engineer - Aws Databricks Pyspark Sustainability H/F

En tant que Data Engineer, vous travaillerez sur deux produits gérés par l’équipe :

• Service : prolonger la vie des produits en structurant les données de l’ensemble des flux circulaires.
• Sustainability : mesurer et réduire l’empreinte carbone de chaque produit depuis la conception jusqu’à l’impact en rayon.

Responsabilités :

• Implémenter des solutions, à partir des règles fonctionnelles établies par le Product Manager / Data Owner.
• Documenter les règles de qualité décrites dans Collibra au préalable pour valider les datasets.
• Partir des templates génériques pour construire des pipelines scalables de données structurées.
• Transformer la stack legacy vers la nouvelle stack recommandée par les équipes de la Data Platform.
• Répondre aux questions des utilisateurs ainsi que de l’équipe de datavisualisation sur les données mises à disposition.
• Intervenir sur l’ensemble des flux de l’équipe et documenter les flux implémentés.
• Contribuer à l’amélioration des bonnes pratiques de développement (Mob programming, Test Driven Development, …) et à la communauté de data engineers.

Outils & Environnement

• Environnement Big Data Amazon Web Services (AWS) : S3, CodeArtefact, ECR, etc.
• Pipelines de données : DBT, PySpark
• Ordonnancement : Airflow
• Plateforme : Databricks
• Langages : Python, SQL
• Outils de gouvernance des données : Collibra

Profil recherchéExpérience sur l’environnement Big Data d’Amazon Web Services (AWS) avec maîtrise de ses composants (S3, CodeArtefact, ECR) et optimisation de leurs performancesExpérience dans l’implémentation de pipelines de données (DBT, PySpark)Expérience dans la mise en place de l’ordonnancement via AirflowConnaissances sur DatabricksDéveloppement en PythonConnaissances en modélisation de donnéesNiveau Avancé en Spark, AWS S3, Python, PySpark, DatabricksNiveau Confirmé en langage SQL

Mais aussi…

Taux journalier :410.css-11k7fwb{display:inline-block;white-space:nowrap;vertical-align:middle;-webkit-padding-start:var(–chakra-space-1-5);padding-inline-start:var(–chakra-space-1-5);-webkit-padding-end:var(–chakra-space-1-5);padding-inline-end:var(–chakra-space-1-5);text-transform:none;font-size:var(–chakra-fontSizes-xs);border-radius:var(–chakra-radii-md);font-weight:var(–chakra-fontWeights-semibold);background:var(–chakra-colors-success-200);color:var(–chakra-colors-success-700);box-shadow:var(–badge-shadow);padding:4px 6px;–badge-bg:var(–chakra-colors-success-100);–badge-color:colors.success.800;}.chakra-ui-dark .css-11k7fwb:not([data-theme]),[data-theme=dark] .css-11k7fwb:not([data-theme]),.css-11k7fwb[data-theme=dark]{–badge-bg:rgba(226, 243, 232, 0.16);–badge-color:var(–chakra-colors-success-200);}Cette offre est à 0% de commission .css-74lrwu{width:1em;height:1em;line-height:1em;-webkit-flex-shrink:0;-ms-flex-negative:0;flex-shrink:0;color:currentColor;font-size:16px;display:-webkit-box;display:-webkit-flex;display:-ms-flexbox;display:flex;-webkit-transition:.1s ease-in-out color;transition:.1s ease-in-out color;}.css-74lrwu *{-webkit-transition:.1s ease-in-out fill;transition:.1s ease-in-out fill;fill:var(–chakra-colors-rythm-600);}, 1. Expérience sur l’environnement Big Data d’Amazon Web Services (AWS) avec maîtrise de ses composants (S3, CodeArtefact, ECR) et optimisation de leurs performances

1. Expérience dans l’implémentation de pipelines de données (DBT, PySpark)
2. Expérience dans la mise en place de l’ordonnancement via Airflow
3. Connaissances sur Databricks
4. Développement en Python
5. Connaissances en modélisation de données
6. Niveau Avancé en Spark, AWS S3, Python, PySpark, Databricks
7. Niveau Confirmé en langage SQL

EUR

SQL AWS Modélisation des données Python Gouvernance des données

Localisation : Lille (mode hybride)

• Durée : mission longue

Mission longue basée à Lille (hybride). Organisation engagée dans une transformation visant à tracer, mesurer et optimiser l’impact environnemental des produits. L’équipe Planet est responsable de la construction et de la fiabilisation des données Sustainability, Circular Economy et Workshop.