Lead Data Orchestration Engineer (H/F)

Craftman data
Canton de Bethoncourt, France
2 days ago

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Languages
French
Experience level
Senior

Job location

Canton de Bethoncourt, France

Tech stack

Airflow
Amazon Web Services (AWS)
Code Review
Continuous Integration
Data Infrastructure
DevOps

Job description

Vos missionsOptimisation de la plateformeFaire évoluer l'architecture Airflow existante.

Optimiser les performances d'exécution et les temps de traitement.

Industrialiser la génération des DAGs (DAG Factory).

Mettre en place les bonnes pratiques de développement et de CI/CD.

Optimiser les dépendances entre pipelines.

Sécurisation & RésilienceRenforcer l'observabilité de la plateforme.

Déployer des mécanismes avancés d'alerting et de supervision.

Optimiser le capacity planning.

Améliorer la gestion des secrets.

Renforcer la robustesse et la reprise automatique après incident.

Produire et maintenir les runbooks d'exploitation.

Architecture & MigrationÉtudier différentes architectures d'orchestration modernes.

Réaliser des benchmarks techniques.

Concevoir une architecture cible adaptée aux besoins de montée en charge.

Piloter les Proof of Concept.

Accompagner une éventuelle migration vers une nouvelle solution.

Garantir la continuité de service durant les phases de transition.

Leadership techniqueDéfinir les standards de développement.

Réaliser des revues de code.

Accompagner les équipes Data et DevOps.

Former les collaborateurs aux bonnes pratiques Airflow.

Participer aux décisions d'architecture.

Requirements

Profil recherchéVous justifiez d'au moins 6 ans d'expérience autour d'Apache Airflow en environnement de production.

Vous possédez une forte expérience sur des plateformes critiques nécessitant performance, résilience et industrialisation.

Une expérience de Lead technique ou d'Architecte Data Platform est fortement appréciée.

Apply for this position