DTNUM 93 - Data engineer d'un projet ministériel sensible H/F

Le Data Engineer conçoit, industrialise et maintient les pipelines de données pour garantir la disponibilité, la qualité et la sécurité des données au service des équipes métiers et Data Science. Le Data Engineer sera en charge de développer les pipelines avec l’outil OTDH au profit des communautés, de maitriser l’outil OTDH et de faire des propositions d’améliorations, il pourra devenir product owner du produit pipeline.

Missions principales

• Collecte et acheminement des données : Recueillir les besoins métiers, développer des solutions de collecte via API, gérer le stockage des données (Hadoop, Data Lake) et automatiser les traitements batch ou streaming.
• Industrialisation et mise à disposition : Nettoyer et transformer les données, gérer les bases de données, assurer la conformité RGPD et mettre en place les marquants de gestion du besoin d’en connaître (modèle ABAC).
• Supervision et maintenance : Surveiller les pipelines, gérer les incidents, planifier la capacité et assurer la continuité de service.

• Gouvernance et sécurité : Appliquer les politiques d’accès (RBAC/ABAC), documenter les flux, gérer les logs et le lineage des données. -Acculturation et support : Former les équipes aux bonnes pratiques, aux conventions de nommage et aux patterns d’ingestion.

• Recetter les versions du produit livrées par l’éditeur. Construire les tests de non régression, de montée en charge automatisés.
• Challenger l’éditeur sur son produit.
• Participer et animer les communautés avec les clients du projet pour co-developper des pipelines.
• Intégrer des composants externes.
• Projeter les données sur la ou les ontologies., Groupe RIFSEEP 2 Régime horaire 40h30 avec 54 jours de repos (25 congés annuels et 29 RTT). Vous évoluerez dans un environnement dynamique et collaboratif, engagé dans la transformation numérique de l’État et tourné vers l’innovation publique. Localisation : Universeine - 19, allée de Seine, 93200 Saint-Denis Les agents publics doivent transmettre leur candidature à l’aide du formulaire unique de mobilité/recrutement, disponible sur : https://www.interieur.gouv.fr/sites/minint/files/medias/documents/2025-01/2025-01-formulaire_Mobilite_MI-2025.pdf Les candidats extérieurs à l’administration devront joindre ce formulaire vierge lors du dépôt de leur candidature sur le portail de mobilité du ministère.

Langages et outils : Python, SQL, Scala, JavaScript, Spark, Databricks, Hadoop, Kafka, Flink, ou autre. Orchestration et CI/CD : Airflow, Azure Data Factory, Fabric pipelines, GitHub Actions, Azure DevOps, Terraform/Bicep. Stockage et modélisation : Delta, Parquet, Lakehouse, Data Warehouse, tests unitaires et d’intégration, data contracts. Optimisation et monitoring : Performance, coûts (FinOps), dashboards de suivi, KPIs (latence, taux de succès, MTTR/MTBF), data-framework.app., Curiosité et veille technologique pour suivre l’évolution rapide des outils et méthodes Capacité à collaborer avec les équipes projet et clients en transversal. Rigueur, autonomie et sens de l’organisation pour gérer des pipelines complexes et sécurisés, Poste soumis à une habilitation de sécurité pour la protection du secret de la défense nationale Durée attendue sur le poste : 3 ans *

Titre III du livre III du Code général de la fonction publique : 2° de l’article L.332-2 et articles L.332-4 et L.332-5.