Data Engineer Senior - Databricks / AWS / IA. TJM 550 max

Craftman data
Paris, France
8 days ago

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Experience level
Expert
Working hours
Regular working hours
Job source

Tech stack

Application Programming Interfaces (APIs) Amazon Web Services Automation of Tests Cloud Computing Code Coverage Code Review Continuous Integration Identity and Access Management Python (Programming Language) Software Engineering SQL Databases Management of Software Versions
+6 more
Large Language Models Apache Spark Backend Pyspark Front End Software Development Databricks

Job description

Contexte de la missionDans le cadre du développement d?un produit stratégique de monitoring et d?observabilité Data, nous recherchons un Data Engineer Senior pour intégrer une squad spécialisée dans l?intégration et les plateformes Data.

Le produit a pour objectif de superviser différents services Data dans un environnement multi-cloud. Il collecte et centralise des logs et métriques liés notamment aux pipelines, aux ressources de calcul, aux usages et aux coûts, puis les transforme afin de fournir une vision exploitable via des API et une interface web.

L?ambition est d’évoluer progressivement vers une observabilité proactive, notamment grâce à des workflows d?IA agentique capables de détecter des anomalies, d’en analyser les causes et d’assister les équipes dans leur résolution.

Missions principalesAu sein de la squad Data, vous prendrez en charge la conception, le développement et l?industrialisation des briques Data du produit, depuis la collecte des données jusqu?à leur modélisation en couche Gold.

Vos principales responsabilités seront : Concevoir et industrialiser la collecte de logs et métriques provenant de différentes sources Cloud.

Développer les pipelines d?ingestion et de transformation sous Databricks.

Concevoir et faire évoluer le Golden Data Model pour répondre aux besoins de monitoring, troubleshooting et pilotage.

Garantir la qualité, la traçabilité, l?observabilité et la fiabilité des données et traitements.

Mettre en ?uvre des pratiques de Spec-Driven Development : spécifications, contrats de données, tests et validation.

Participer à la conception de workflows IA agentiques dédiés à la détection d?anomalies et à l?aide au diagnostic.

Collaborer avec les équipes Backend et Frontend pour permettre l?exposition des données via API et interfaces applicatives.

Contribuer aux standards d?architecture, de sécurité et de performance dans un environnement AWS., Livrables attendus ? 3 à 6 moisPipelines d?ingestion et de transformation robustes, industrialisés et observables.

Golden Data Model formalisé et exploitable par les différents composants du produit.

Mécanismes de détection et de diagnostic enrichis par des workflows IA agentiques.

Documentation technique et spécifications maintenues à jour.

Couverture de tests permettant de garantir la fiabilité des développements.

Requirements

Profil recherchéNous recherchons un profil disposant d?une solide expérience en Data Engineering sur des produits Data en production, avec une forte culture Engineering., Excellente maîtrise de Databricks : Spark, Jobs, Notebooks, Delta, orchestration, optimisation, monitoring et gouvernance.

Très bonne maîtrise de AWS et de ses services Data.

Expertise en Python, PySpark et SQL avancé.

Expérience confirmée en modélisation de données analytique, notamment sur des architectures Bronze / Silver / Gold.

Maîtrise des problématiques de qualité et contrats de données.

Connaissance des architectures Cloud, de la sécurité et des mécanismes IAM.

Expérience du développement logiciel : tests automatisés, versioning, revue de code et CI/CD.

Connaissance des problématiques d?API et d?intégration avec des services applicatifs.

Une expérience des approches Spec-Driven / Contract-First constitue un avantage.

Une sensibilité aux LLM et à l?IA agentique appliquée aux workflows Data est fortement appréciée.

La connaissance des patterns agentiques, de MCP ou de workflows IA outillés constitue un plus., Profil recherchéNous recherchons un profil disposant d?une solide expérience en Data Engineering sur des produits Data en production, avec une forte culture Engineering.

Compétences recherchées : Excellente maîtrise de Databricks : Spark, Jobs, Notebooks, Delta, orchestration, optimisation, monitoring et gouvernance.

Très bonne maîtrise de AWS et de ses services Data.

Expertise en Python, PySpark et SQL avancé.

Expérience confirmée en modélisation de données analytique, notamment sur des architectures Bronze / Silver / Gold.

Maîtrise des problématiques de qualité et contrats de données.

Connaissance des architectures Cloud, de la sécurité et des mécanismes IAM.

Expérience du développement logiciel : tests automatisés, versioning, revue de code et CI/CD.

Connaissance des problématiques d?API et d?intégration avec des services applicatifs.

Une expérience des approches Spec-Driven / Contract-First constitue un avantage.

Une sensibilité aux LLM et à l?IA agentique appliquée aux workflows Data est fortement appréciée.

La connaissance des patterns agentiques, de MCP ou de workflows IA outillés constitue un plus.

Apply for this position

This job is hosted externally. Click below to view the full posting and apply.

Apply on fr.indeed.com

Good distractions

Talks and stories from around this role — technically off-topic, practically not.

3:09 min

Balancing data science skillings alongside systems engineering rigor

Nico Schmidt · LIVE

2:27 min

Managing traffic and tracking costs with Databricks Unity Catalog

Viktoria Semaan Viktoria Semaan · WWC Europe 2026

1:52 min

Structuring and scaling the backend engineering team

Stefan Lingler Stefan Lingler +1 · Coffee With Developers

4:32 min

Harnessing Spark with Python using PySpark and Py4J

Ayon Roy · LIVE

1:34 min

Bringing diverse skills to industrial data science roles

Katja Träumner

2:50 min

Executing LoRA fine-tuning using serverless Databricks AI runtimes

Viktoria Semaan Viktoria Semaan · WWC Europe 2026

Videos

See all

Related articles

See all