Data Engineer / DataOps (H/F)
- Discuss this with your agent
- Open in Claude
- Open in ChatGPT
Role details
Tech stack
+6 more
Job description
Contexte de la missionDans le cadre de la refonte complète d?un Data Lake stratégique, nous recherchons un profil Data Engineer orienté DataOps / MLOps afin d?accompagner la mise en place d?une plateforme data moderne, scalable et gouvernée.
Le projet repose sur une architecture Medallion (Bronze / Silver / Gold) et intègre plusieurs technologies modernes liées à l?ingestion, la transformation, l?orchestration et la gouvernance des données.
Le consultant interviendra à la fois sur les aspects Data Engineering, industrialisation, CI/CD, déploiement de pipelines et automatisation des workflows data.
Missions principalesAnalyse de l?existant & MigrationCartographier les sources de données, pipelines et flux existants
Participer à la définition de la stratégie de migration vers le nouveau Data Lake
Concevoir les plans de bascule tout en minimisant les impacts de production
Architecture & IngestionConcevoir les couches Bronze / Silver / Gold du Data Lake
Développer les pipelines d?ingestion batch et near real-time
Participer à l?optimisation des flux de données et des performances
Transformation & ModélisationDévelopper les modèles de transformation avec dbt
Mettre en place les tests automatisés et la documentation technique
Harmoniser les schémas et standards de données
DataOps / DevOpsMettre en ?uvre les pipelines CI/CD pour les traitements data
Industrialiser les déploiements et automatiser les workflows
Participer à la supervision, au monitoring et à l?observabilité des pipelines
Collaborer avec les équipes DevOps et Infrastructure
Orchestration & GouvernanceDéployer et maintenir les workflows avec Argo Workflows
Participer à la gouvernance des métadonnées et de la qualité des données
Contribuer à l?amélioration continue des pratiques DataOps
Compétences recherchéesCompétences techniques impérativesData Engineering
SQL avancé
dbt
CI/CD & automatisation
Déploiement de pipelines data
Bonne culture DevOps / DataOps
TechnologiesTrinoDB
Apache Iceberg
Parquet
Argo Workflows
Apache Superset
Metabase
OpenMetadata, Data Engineer / DataOps ? Projet stratégique Data LakeNous recherchons un Data Engineer orienté DataOps / MLOps pour intervenir sur la refonte complète d?un Data Lake moderne basé sur une architecture Medallion.
Vous participerez à la mise en place de pipelines data industrialisés, à l?automatisation des déploiements CI/CD ainsi qu?à l?orchestration des workflows dans un environnement technique innovant.
Stack : TrinoDB ? Apache Iceberg ? dbt ? Argo Workflows ? Parquet ? Superset ? OpenMetadata ? CI/CD ? DataOps
Requirements
Compétences appréciéesKubernetes
Docker
GitLab CI/CD ou Jenkins
Python
Environnements Cloud & orchestration data, Profil recherchéData Engineer avec forte orientation DataOps / MLOps
Expérience sur des plateformes Data modernes
Bonne compréhension des problématiques d?industrialisation et d?automatisation
Sensibilité aux enjeux de performance, gouvernance et observabilité
Soft skillsAutonomie
Esprit analytique
Capacité à travailler en environnement transverse
Force de proposition
Bon relationnel technique, Solide expérience Data Engineering
Forte culture DevOps / DataOps
Expérience sur l?industrialisation et le déploiement de pipelines data
Bonne maîtrise des environnements modernes de Data Lake
Benefits & conditions
Mission longue durée ? Démarrage ASAP.
Apply for this position
This job is hosted externally. Click below to view the full posting and apply.
Apply on indeed.comGood distractions
Talks and stories from around this role — technically off-topic, practically not.
Moments
Explore playlistsVideos
See allRelated articles
See all
Best Companies to Work For in Paris: Top 25 Companies in 2023Â
Fully Remote Software Engineer Jobs
The Most Popular IT Jobs on the Market
Best Companies to Work For in France: Top 25 Companies in 2023Â