> Markdown version of [/jobs/ext/1874748-lead-data-orchestration-engineer-apache-airflow-h-f](https://www.wearedevelopers.com/jobs/ext/1874748-lead-data-orchestration-engineer-apache-airflow-h-f). Every page supports `.md` or `Accept: text/markdown`. Links point to the HTML versions so they work for humans too. Agent guide: [/agents.md](https://www.wearedevelopers.com/agents.md). --- # Lead Data Orchestration Engineer Apache Airflow H/F - **Company:** DGTL Performance - **Location:** Sochaux, France - **Experience:** Expert - **Contract:** Permanent contract - **Skills:** Airflow, Amazon Web Services, Cloud Computing Security, Continuous Integration, Data Infrastructure, Identity and Access Management, Python (Programming Language), Open Source Technology, Performance Tuning, DataOps, Transaction Data, Google Cloud, Integration Tests, Kubernetes, Cloudwatch, Amazon Simple Queue Service (SQS), Terraform, Docker - **Published:** August 1, 2026 - **Apply:** https://www.hellowork.com/fr-fr/emplois/81896931.html ## About the Role Minimum 5 ans d'expérience professionnelle sur Apache Airflow, dont une expérience significative et avérée en environnement managé (AWS MWAA, Google Cloud Composer ou équivalent) - Maîtrise approfondie du modèle d'exécution Airflow : scheduler, executor, pools, triggers, deferrable operators, et cycle de vie complet - Expérience confirmée en tuning et optimisation de plateformes Airflow à l'échelle production (200+ DAGs) avec démonstration de réductions de coûts ou d'amélioration de performance - Expertise AWS certifiée ou démontrée : MWAA, SQS, SNS, Secrets Manager, CloudWatch, IAM et concepts de sécurité cloud - Connaissance pratique des alternatives modernes à MWAA (Airflow auto-hébergé sur ECS/EKS, Astronomer, Dagster, Prefect) avec idéalement au moins une expérience de migration ou d'évaluation comparative - Expérience avérée avec les DAG Factories dynamiques : conception, amélioration et optimisation de factories existantes - Maîtrise des patterns de résilience : retry strategies, Dead Letter Queues, circuit breakers, isolation des flux, capacité de reprise automatique - Observabilité et monitoring avancés : conception de dashboards, métriques métier, alerting structuré, routage d'incidents - Python avancé : développement de plugins, operators et sensors personnalisés, optimisation de code - Capacité confirmée de mentorat technique et de transfert de compétences auprès d'équipes hétérogènes (Dev et Ops) Fortement appréciés : - Infrastructure as Code (Terraform) : conception et maintien d'infrastructure déclarative à l'échelle - Expérience directe de migration d'une plateforme d'orchestration vers une autre en environnement production multi-pays - Connaissance des patterns de Data Mesh ou des principes de décentralisation de la data - Expérience de leadership technique et de pilotage de programmes d'optimisation transverses (priorisation, suivi, reporting) - Connaissance des enjeux de conformité et de gouvernance data dans des environnements hautement régulés - Certification AWS Solutions Architect ou équivalente - Expérience avec Kubernetes (EKS) ou conteneurisation Docker en contexte d'orchestration - Participation à des communautés Airflow ou contribution open-source sur le projet, Management d'équipe AWS Routage Kubernetes Optimisation des performances Python Terraform Docker Isolation ## Description Rejoignez une grande entreprise du secteur automobile en tant que Lead Data Orchestration Engineer pour piloter l'optimisation et la sécurisation d'une plateforme d'orchestration Airflow critique. Vous piloterez une mission stratégique combinant expertise technique, architecture cloud et mentorat d'équipes dans un environnement à fort enjeu de continuité de service. Contexte de la mission Vous intégrez une équipe Data Platform au sein d'un groupe majeur du secteur automobile. La plateforme d'orchestration Airflow MWAA (version 2.10.3) gère des pipelines de données transactionnelles complexes à travers 9 pays européens. Suite à un audit technique approfondi ayant stabilisé les fondations, la mission porte désormais sur quatre axes stratégiques : optimisation architecturale et passage à l'échelle, sécurisation et résilience de bout en bout, évaluation et migration vers une infrastructure cible mieux adaptée, et montée en compétence progressive des équipes Dev et Ops., Optimiser et faire évoluer l'architecture d'orchestration existante : enrichissement de la DAG Factory, migration vers les Datasets natifs Airflow, optimisation des performances au parse-time et runtime, mise en place de validation automatisée en CI/CD (parse test, linting, tests d'intégration) - Concevoir et implémenter une stratégie de sécurisation robuste : politique de rotation des secrets, routage d'alertes différencié par type et criticité, hardening réseau et configuration, patterns avancés de résilience (retry strategies, Dead Letter Queues, circuit breakers) - Piloter la phase d'étude et de benchmarking des alternatives à AWS MWAA (Airflow auto-hébergé sur ECS/EKS, Astronomer, Dagster, Prefect, etc.) en regard des contraintes métier, puis élaborer une recommandation argumentée avec analyse coûts/bénéfices et plan de transition - Prendre en charge la migration vers l'infrastructure cible retenue, en garantissant continuité de service, POC validant et bascule progressive en production - Conduire le programme de formation et de montée en compétence des équipes (~10 personnes Dev et Ops), favoriser la constitution d'une méta-équipe plateforme unifiée, et accompagner l'évolution des profils (Dev vers Data Engineers, Ops vers DataOps) - Concevoir et faire appliquer des standards techniques transverses : patterns de conception, conventions de code, processus de review et bonnes pratiques d'observabilité - Piloter le capacity planning, le tuning de performance (pools, scaling, rétention logs) et la finalisation des runbooks d'incidents (classification, escalade, post-mortem) ## Related Videos - [From Messy Queries to Scalable Systems - How Data Engineering actually works](https://www.wearedevelopers.com/videos/100203-from-messy-queries-to-scalable-systems-how-data-engineering-actually-works) - [Docker Compose: Rediscovered](https://www.wearedevelopers.com/videos/1978-docker-compose-rediscovered) - [Enjoying SQL data pipelines with dbt](https://www.wearedevelopers.com/videos/823-enjoying-sql-data-pipelines-with-dbt) - [The journey from developer to devops - what i've learnt along the way](https://www.wearedevelopers.com/videos/238-the-journey-from-developer-to-devops-what-i-ve-learnt-along-the-way) - [AI Model Management Life Circles: ML Ops For Generative AI Models From Research to Deployment](https://www.wearedevelopers.com/videos/1152-ai-model-management-life-circles-ml-ops-for-generative-ai-models-from-research-to-deployment) - [Docker build without Docker](https://www.wearedevelopers.com/videos/100114-docker-build-without-docker) ## Related Articles - [DevOps Engineer Salary [2023]](https://www.wearedevelopers.com/magazine/203-devops-engineer-salary-2023) - [Best Companies to Work For in Paris: Top 25 Companies in 2023 ](https://www.wearedevelopers.com/magazine/190-best-companies-to-work-for-in-paris-top-25-companies-in-2023) - [Data Engineer Salary UK](https://www.wearedevelopers.com/magazine/253-data-engineer-salary-uk) - [Best Companies to Work For in France: Top 25 Companies in 2023 ](https://www.wearedevelopers.com/magazine/189-best-companies-to-work-for-in-france-top-25-companies-in-2023) - [Highest Paying Tech Companies for Developers](https://www.wearedevelopers.com/magazine/220-highest-paying-tech-companies-for-developers) - [The 7 Most Popular Backend Frameworks for Developers](https://www.wearedevelopers.com/magazine/403-the-7-most-popular-backend-frameworks-for-developers)