DTNUM 92 - Data engineer- Projet OTDH H/F

Direction de la transformation numérique
Canton of Courbevoie-2, France
4 days ago

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Languages
French
Experience level
Intermediate

Job location

Remote
Canton of Courbevoie-2, France

Tech stack

JavaScript
API
Airflow
Unit Testing
Azure
Databases
Continuous Integration
Data Security
Data Warehousing
Github
Hadoop
Python
Role-Based Access Control
Scala
SQL Databases
Data Streaming
Parquet
Azure
Spark
Mttr
Data Lake
Apache Flink
Bicep
Kafka
Terraform
Databricks

Job description

Le Data Engineer conçoit, industrialise et maintient les pipelines de données pour garantir la disponibilité, la qualité et la sécurité des données au service des équipes métiers et Data Science. Le Data Engineer sera en charge de développer les pipelines avec l'outil OTDH au profit des communautés, de maitriser l'outil OTDH et de faire des propositions d'améliorations, il pourra devenir product owner du produit pipeline.

Missions principales

  • Collecte et acheminement des données : Recueillir les besoins métiers, développer des solutions de collecte via API, gérer le stockage des données (Hadoop, Data Lake) et automatiser les traitements batch ou streaming.

  • Industrialisation et mise à disposition : Nettoyer et transformer les données, gérer les bases de données, assurer la conformité RGPD et mettre en place les marquants de gestion du besoin d'en connaître (modèle ABAC).

  • Supervision et maintenance : Surveiller les pipelines, gérer les incidents, planifier la capacité et assurer la continuité de service.

  • Gouvernance et sécurité : Appliquer les politiques d'accès (RBAC/ABAC), documenter les flux, gérer les logs et le lineage des données. -Acculturation et support : Former les équipes aux bonnes pratiques, aux conventions de nommage et aux patterns d'ingestion.

  • Recetter les versions du produit livrées par l'éditeur. Construire les tests de non régression, de montée en charge automatisés.

  • Challenger l'éditeur sur son produit.

  • Participer et animer les communautés avec les clients du projet pour co-developper des pipelines.

  • Intégrer des composants externes.

  • Projeter les données sur la ou les ontologies.

Requirements

Langages et outils : Python, SQL, Scala, JavaScript, Spark, Databricks, Hadoop, Kafka, Flink, ou autre. Orchestration et CI/CD : Airflow, Azure Data Factory, Fabric pipelines, GitHub Actions, Azure DevOps, Terraform/Bicep. Stockage et modélisation : Delta, Parquet, Lakehouse, Data Warehouse, tests unitaires et d'intégration, data contracts. Optimisation et monitoring : Performance, coûts (FinOps), dashboards de suivi, KPIs (latence, taux de succès, MTTR/MTBF), data-framework.app., Curiosité et veille technologique pour suivre l'évolution rapide des outils et méthodes Capacité à collaborer avec les équipes projet et clients en transversal. Rigueur, autonomie et sens de l'organisation pour gérer des pipelines complexes et sécurisés, Poste soumis à une habilitation de sécurité pour la protection du secret de la défense nationale Durée attendue sur le poste : 3 ans *

Titre III du livre III du Code général de la fonction publique : 2° de l'article L.332-2 et articles L.332-4 et L.332-5.

Benefits & conditions

Régime horaire 40h30 avec 54 jours de repos (25 congés annuels et 29 RTT). Vous évoluerez dans un environnement dynamique et collaboratif, engagé dans la transformation numérique de l'État et tourné vers l'innovation publique. Localisation : Neuilly-sur-Seine (92) Les agents publics doivent transmettre leur candidature à l'aide du formulaire unique de mobilité/recrutement, disponible sur : https://www.interieur.gouv.fr/sites/minint/files/medias/documents/2025-01/2025-01-formulaire_Mobilite_MI-2025.pdf

Apply for this position