Data Engineer - Pipelines & Lakehouse H/F
Role details
Job location
Tech stack
Job description
Développement des pipelines de données Conception et développement d'applications distribuées (Scala/Spark et PySpark) pour l'alimentation et la transformation des données. Respect des principes de l'architecture Data Lakehouse.
Évolution de la plateforme Participation active au développement applicatif et à la convergence des flux de données existants. Contribution à l'amélioration continue des pipelines en place.
Opérabilité & support Mise en place des outils de monitoring et de supervision. Garantie de la disponibilité et de la performance de la plateforme. Support technique des équipes utilisatrices pour un usage optimal.
Collaboration transverse Travail en interaction avec plusieurs équipes techniques et métier. Capacité à formuler des recommandations et à faire des propositions d'amélioration.
Requirements
Compétences techniquesSolide expérience en intégration et traitement de données (structurées et non structurées)Maîtrise de Scala et/ou PySpark - Scala fortement privilégiéBonne maîtrise de SQLExpérience sur Spark, Delta Lake, DatabricksPratique d'un environnement cloud : Microsoft Azure ou AWSCulture des bonnes pratiques de l'ingénierie logicielle et du cycle de vie data (versioning, tests, documentation)Familiarité avec les contraintes du développement distribué : scalabilité, optimisation, gestion des volumesExpérience & savoir-êtreAutonomie et capacité à prendre des initiativesBon esprit d'analyse et de synthèseForce de proposition, à l'aise pour challenger les solutions en placeBonne communication et sens du service, travail en mode équipeÀ l'aise dans un environnement multi-équipes et multi-interlocuteurs, * Solide expérience en intégration et traitement de données (structurées et non structurées)
- Maîtrise de Scala et/ou PySpark - Scala fortement privilégié
- Bonne maîtrise de SQL
- Expérience sur Spark, Delta Lake, Databricks
- Pratique d'un environnement cloud : Microsoft Azure ou AWS
- Culture des bonnes pratiques de l'ingénierie logicielle et du cycle de vie data (versioning, tests, documentation)
- Familiarité avec les contraintes du développement distribué : scalabilité, optimisation, gestion des volumes
Expérience & savoir-être
- Autonomie et capacité à prendre des initiatives
- Bon esprit d'analyse et de synthèse
- Force de proposition, à l'aise pour challenger les solutions en place
- Bonne communication et sens du service, travail en mode équipe
- À l'aise dans un environnement multi-équipes et multi-interlocuteurs, Esprit d'analyse