Senior Data Engineer

Craftman data
Paris, France
11 days ago

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Languages
French
Experience level
Senior

Job location

Paris, France

Tech stack

Artificial Intelligence
Azure
Data Control
Python
Azure
SQL Databases
Data Streaming
Azure
Large Language Models
Spark
Data Lineage
Kafka
REST
Docker
Databricks

Job description

? Contexte de la mission La squad Data Connect développe des produits data augmentés par l?IA pour :

accélérer la livraison des projets data

faciliter l?accès à la donnée legacy

alimenter différents consommateurs (Power BI, data hubs, produits digitaux, Cognite, etc.)

garantir une donnée fiable, gouvernée et monitorée

? Objectif principal du Senior Data EngineerConstruire, industrialiser et optimiser des pipelines de données robustes et scalables, en environnement cloud (principalement Azure + Databricks), avec un fort enjeu :

? ingestion, transformation, qualité, exposition et monitoring de la donnée

? Missions clés1. Architecture & conception dataAnalyser les besoins métiers et techniques

Proposer des solutions data robustes et industrialisables

Travailler avec architectes, data scientists et domain managers

  1. Data Engineering / IndustrialisationAutomatiser les pipelines de données sur :

Databricks

Azure Data Factory (ADF)

Cognite Data Fusion

Gérer ingestion, stockage, transformation et exposition

Mettre en production des flux data fiables et scalables

  1. Data Quality & MonitoringDévelopper des outils de Data Monitoring / Data Connect

Assurer : complétude

qualité

épuration

enrichissement des données

Mettre en place des mécanismes d?observabilité

  1. Amélioration continue & produitParticiper aux workshops produit

Améliorer les outils internes (monitoring, exposition, data lineage)

Standardiser les pipelines et scripts

Renforcer la documentation et la traçabilité

? Stack technique attendueExpert : SQL, Python, Kafka, à l?aise avec les environnements cloud Azure + Databricks

capable de gérer des sujets data quality / observabilité

avec une ouverture IA (LLM, agentic AI, ML pipelines)

autonome et orienté produit

Senior Data Engineer spécialisé dans la conception et l?industrialisation de pipelines data en environnement cloud Azure et Databricks. Expert en ingestion et streaming (Kafka), il/elle construit des architectures robustes orientées production, avec une forte culture de la data quality, du monitoring et de l?observabilité. À l?aise dans des contextes complexes mêlant legacy data, produits data et IA (LLM / ML), il/elle contribue également à la standardisation et à l?amélioration continue des plateformes data., ? Contexte de la mission La squad Data Connect développe des produits data augmentés par l?IA pour :

accélérer la livraison des projets data

faciliter l?accès à la donnée legacy

alimenter différents consommateurs (Power BI, data hubs, produits digitaux, Cognite, etc.)

garantir une donnée fiable, gouvernée et monitorée

? Objectif principal du Senior Data EngineerConstruire, industrialiser et optimiser des pipelines de données robustes et scalables, en environnement cloud (principalement Azure + Databricks), avec un fort enjeu :

? ingestion, transformation, qualité, exposition et monitoring de la donnée

? Missions clés1. Architecture & conception dataAnalyser les besoins métiers et techniques

Proposer des solutions data robustes et industrialisables

Travailler avec architectes, data scientists et domain managers

  1. Data Engineering / IndustrialisationAutomatiser les pipelines de données sur :

Databricks

Azure Data Factory (ADF)

Cognite Data Fusion

Gérer ingestion, stockage, transformation et exposition

Mettre en production des flux data fiables et scalables

  1. Data Quality & MonitoringDévelopper des outils de Data Monitoring / Data Connect

Assurer : complétude

qualité

épuration

enrichissement des données

Mettre en place des mécanismes d?observabilité

  1. Amélioration continue & produitParticiper aux workshops produit

Améliorer les outils internes (monitoring, exposition, data lineage)

Standardiser les pipelines et scripts

Renforcer la documentation et la traçabilité

Requirements

Confirmé : Spark, Databricks, Docker, REST APIs, Cognite Data Fusion

Avancé : Azure Machine Learning, LLM

IA Agentic : niveau confirmé

? Profil recherché Un profil : très solide en data engineering (industrialisation + production)

orienté streaming & ingestion (Kafka fort enjeu), ? Stack technique attendueExpert : SQL, Python, Kafka

Confirmé : Spark, Databricks, Docker, REST APIs, Cognite Data Fusion

Avancé : Azure Machine Learning, LLM

IA Agentic : niveau confirmé

? Profil recherché Un profil : très solide en data engineering (industrialisation + production)

orienté streaming & ingestion (Kafka fort enjeu)

à l?aise avec les environnements cloud Azure + Databricks

capable de gérer des sujets data quality / observabilité

avec une ouverture IA (LLM, agentic AI, ML pipelines)

autonome et orienté produit

About the company

Senior Data Engineer spécialisé dans la conception et l?industrialisation de pipelines data en environnement cloud Azure et Databricks. Expert en ingestion et streaming (Kafka), il/elle construit des architectures robustes orientées production, avec une forte culture de la data quality, du monitoring et de l?observabilité. À l?aise dans des contextes complexes mêlant legacy data, produits data et IA (LLM / ML), il/elle contribue également à la standardisation et à l?amélioration continue des plateformes data.

Apply for this position