Data Engineer F/H
Role details
Job location
Tech stack
Job description
Le Data Engineer F/H développe, construit et maintient des infrastructures de données d'un point de vue système et sécurité. Il s'assure de la collecte, du stockage et de l'exploitation des flux de données répondant aux enjeux de l'entreprise. Il est garant de l'accès qualitatif des sources de données qui viennent alimenter le Data Lake afin d'en faciliter l'exploitation par les équipes KERIALIS. Il définit également la structure des métadonnées.
Rattaché(e) au Directeur des Systèmes d'Information, vos missions principales seront les suivantes :
-
Implémentation et gestion des flux de données :
-
Concevoir, développer et maintenir les pipelines d'ingestion de données (batch et temps réel) via Microsoft Fabric Data Factory.
-
Implémenter les transformations de données à l'aide de Notebooks Spark (PySpark, Spark SQL) et Dataflows Gen2.
-
Structurer, historiser et fiabiliser les données dans OneLake selon une architecture Lakehouse en médaillon (Bronze / Silver / Gold).
-
Industrialisation et performance :
-
Orchestrer les traitements de données dans le respect des standards d'architecture définis.
-
Garantir l'industrialisation des solutions (CI/CD via Azure DevOps, pipelines YAML, Terraform).
-
Mettre en place le monitoring, l'alerting et les contrôles de qualité des données.
-
Optimiser les performances des traitements et maîtriser les coûts d'exécution.
-
Exposition et valorisation de la donnée :
-
Gérer l'exposition des données via SQL Endpoints, API et modèles sémantiques Power BI.
-
Assurer la disponibilité et la fiabilité des datasets pour les équipes Data et les métiers.
-
Collaboration transverse :
-
Collaborer étroitement avec le Data Architect pour implémenter les modèles cibles et référentiels.
-
Travailler en lien avec les Data Analysts et les équipes métiers pour répondre aux besoins analytiques.
-
Participer aux choix techniques et à l'évolution de la plateforme Data.
Requirements
-
Compétences transversales : Autonomie, rigueur, persévérance, pédagogie, esprit analytique, sens du service, capacité à travailler en environnement collaboratif, force de proposition et orientation qualité / performance.
-
Compétences techniques :
-
Maîtrise avancée de l'écosystème Azure et Data :
-
Microsoft Fabric, OneLake, Fabric Data Factory, Azure Data Lake Gen2
-
Spark (Spark SQL, PySpark) et formats Delta
-
Développement avancé en Notebooks
-
Architectures Lakehouse et modélisation en médaillon
-
Modélisation Data Vault 2.0
-
Automatisation et industrialisation des traitements (Azure DevOps, CI/CD, Terraform)
-
SQL avancé et optimisation des performances
-
Connaissance de Power BI
-
Culture Data solide : qualité, monitoring, gouvernance et performance
-
Diplôme : Bac +5 en informatique, data engineering ou domaine équivalent., * 3 à 7 ans d'expérience en Data Engineering, avec une forte exposition à l'écosystème Azure.
-
Expérience des environnements Lakehouse et/ou temps réel appréciée.
-
Goût marqué pour l'automatisation, la fiabilité et l'optimisation des flux de données.
Benefits & conditions
Savoir-faire E : expert / M : maitrise / A : application / N : notions
Ce poste est ouvert aux personnes en situation de handicap.
AVANTAGES KERIALIS