Senior Data Engineer - Data Engineering Tech Lead H/F
- Discuss this with your agent
- Open in Claude
- Open in ChatGPT
Prepare application
- Draft this with your agent
- Open in Claude
- Open in ChatGPT
Role details
Tech stack
+25 more
Job description
Le Senior Data Engineer / Data Engineering Tech Lead sera responsable des fondations techniques qui rendent les donnĂ©es 24/7 utilisables, fiables et Ă©volutives. Ce rĂŽle senior est trĂšs opĂ©rationnel avec des responsabilitĂ©s lĂ©gĂšres de leadership technique, et non un poste gĂ©nĂ©raliste en dĂ©veloppement .NET. Lâaccent est mis sur lâingestion, la transformation, la qualitĂ© des donnĂ©es, la traçabilitĂ©, lâobservabilitĂ© et la livraison sĂ©curisĂ©e de produits de donnĂ©es et de jeux de donnĂ©es prĂȘts au calcul. Le rĂŽle guide les choix et standards techniques tout en continuant Ă concevoir et construire des composants critiques directement. Travaillant au sein de lâĂ©quipe fonctionnelle 24/7, le Senior Data Engineer / Data Engineering Tech Lead collaborera avec le Product Owner, les Business Analysts, les ingĂ©nieurs logiciels, les architectes, les Ă©quipes plateforme data et les parties prenantes pays. La personne doit ĂȘtre Ă lâaise pour livrer des solutions tactiques sans perdre de vue lâarchitecture cible et les capacitĂ©s rĂ©utilisables., A. Architecture des donnĂ©es et intĂ©gration des sources
- Contribuer Ă lâarchitecture des donnĂ©es de bout en bout et documenter les flux, interfaces, dĂ©pendances et responsabilitĂ©s actuels et cibles.
- Concevoir et construire des pipelines dâingestion Ă partir de jeux de donnĂ©es internes, bases de donnĂ©es, API REST, flux partenaires et Ă©changes de fichiers contrĂŽlĂ©s.
- IntĂ©grer des donnĂ©es pays hĂ©tĂ©rogĂšnes tout en isolant la logique spĂ©cifique aux sources via des connecteurs rĂ©utilisables et des contrats dâinterface clairs.
- Implémenter des traitements batch et, lorsque justifié par les niveaux de service métier, des patterns quasi temps réel ou streaming.
- DĂ©finir une gestion robuste de lâĂ©volution des schĂ©mas, des donnĂ©es tardives, des rejouages, de lâidempotence, des backfills et des enregistrements Ă©chouĂ©s.
- Collaborer avec les équipes plateforme pour décider quand 24/7 doit consommer des produits de données existants ou des capacités partagées de séries temporelles plutÎt que dupliquer des copies locales.
B. Ingénierie des séries temporelles et modélisation des données
- Concevoir des structures Ă©volutives pour des donnĂ©es dâintervalle Ă fort volume, incluant la consommation client et la production dâactifs.
- Définir et maintenir des modÚles canoniques pour client, entité légale, site, point de comptage, contrat, actif, allocation, certificat, série temporelle, résultat de matching et période de reporting.
- Appliquer des patterns de modĂ©lisation adaptĂ©s aux donnĂ©es opĂ©rationnelles applicatives, produits analytiques et jeux de donnĂ©es prĂȘts au calcul.
- GĂ©rer les fuseaux horaires, transitions heure dâĂ©tĂ©, granularitĂ© des intervalles, unitĂ©s de mesure, intervalles manquants, doublons et corrections versionnĂ©es.
- Optimiser le stockage, le partitionnement, lâindexation et la performance de traitement selon les charges et exigences de rĂ©tention.
C. Transformation des données et activation des calculs
- Construire des transformations testĂ©es standardisant les donnĂ©es sources en courbes de consommation et production prĂȘtes au calcul.
- Permettre le Hourly Matching Score et les indicateurs clients associés via des jeux de données et services de calcul reproductibles et versionnés.
- Collaborer avec les spécialistes métier et produit pour traduire les rÚgles de calcul en spécifications techniques explicites et tests automatisés.
- Préserver la distinction entre mesures opérationnelles provisoires et résultats de reporting validés ou certifiés.
D. Qualité des données, traçabilité et observabilité
- Mettre en oeuvre des contrÎles automatisés de complétude, validité, actualité, unicité, cohérence et intégrité référentielle.
- Définir des contrÎles de réconciliation entre données sources, ingérées, transformées et reportées.
- Fournir une traçabilitĂ© technique complĂšte, mĂ©tadonnĂ©es dâexĂ©cution et preuves auditables des versions source, transformation et calcul.
- Créer des tableaux de bord de monitoring, alertes et opérationnels couvrant la fraßcheur, les échecs de pipeline, les enregistrements rejetés et le respect des niveaux de service.
- Contribuer Ă lâanalyse des incidents, correction des causes racines et prĂ©vention des rĂ©cidives.
E. Ingénierie, sécurité et exploitation
- Utiliser un développement basé sur Git, revue par les pairs, tests automatisés et CI/CD pour livrer des pipelines de données fiables.
- Contribuer Ă lâInfrastructure as Code et Ă la configuration des environnements avec les Ă©quipes DevOps et plateforme.
- Appliquer la sécurité dÚs la conception : accÚs au moindre privilÚge, gestion des secrets, chiffrement, séparation des environnements et traitement sécurisé des données clients.
- Produire un code maintenable, des runbooks, des dĂ©cisions dâarchitecture, des contrats de donnĂ©es et une documentation opĂ©rationnelle.
- Participer aux cĂ©rĂ©monies Agile tout en maintenant un backlog technique pour la fiabilitĂ©, lâĂ©volutivitĂ© et la dette technique.
Leadership technique opérationnel attendu
- Agir comme référence senior en ingénierie des données au sein de la squad 24/7 tout en restant directement impliqué dans la conception, le codage, les tests et le support en production.
- DĂ©finir des patterns dâingĂ©nierie pragmatiques pour ingestion, transformation, tests, dĂ©ploiement, monitoring et rĂ©cupĂ©ration, en assurant leur adoption cohĂ©rente.
- Piloter les revues techniques et de code ; coacher les ingénieurs logiciels contribuant aux flux de données sans devenir manager.
- Remettre en question les duplications tactiques et formuler des recommandations explicites build-versus-reuse avec les parties prenantes plateforme B2B et architecture.
- Transformer des exigences ambiguës et des sources fragmentées en décisions techniques séquencées, incréments livrables et backlog technique contrÎlé.
- Assumer les décisions clés non fonctionnelles couvrant scalabilité, fiabilité, sécurité, opérabilité, maintenabilité et coût.
Domaines de données prioritaires
- Données de référence client, entité légale, site et point de livraison.
- ParamĂštres contractuels, engagements de matching cible et calendriers de reporting.
- Données de consommation client horaire ou sub-horaire et données de compteur.
- IdentitĂ©, caractĂ©ristiques et donnĂ©es de production dâactifs renouvelables ou carboneutres.
- Allocation des actifs et volumes dâĂ©nergie aux contrats.
- Certificats ou Garanties dâOrigine et preuves associĂ©es.
- Résultats de matching, versions méthodologiques et sorties de reporting client.
Outils & Environnement
- Python avancé et SQL pour le traitement de données en production
- Pipelines de données intégrant API, bases de données et fichiers
- Git, revue de code, CI/CD et promotion dâenvironnements
- Cloud data engineering sur Azure ou AWS
- Outils de logging, monitoring, alerting et gestion des incidents
- Sécurité des accÚs aux données et gestion des secrets
Requirements
Databricks, Spark, Delta Lake, Unity Catalog (fortement apprécié)
- Plateformes spécialisées séries temporelles comme PostgreSQL / TimescaleDB
- Architecture Data Lake / Lakehouse
- Services temps réel ou streaming (Kafka, Event Hubs ou équivalent)
- Terraform ou autre outil Infrastructure-as-Code
- Outils de catalogage, traçabilité et gouvernance des données
- Power BI ou intégration couche sémantique
- Outils dâingĂ©nierie assistĂ©e par IA dans un cadre sĂ©curisĂ©, Masterâs degree in computer science, software engineering, data engineering or demonstrably equivalent experienceTypically 7+ years across software and data engineering, including substantial ownership of production-grade data pipelinesPrevious responsibilities as Senior Data Engineer, Lead Engineer, Data Engineering Tech Lead or hands-on solution architect strongly preferredAbility to understand complex business rules and translate them into explicit, testable data requirementsProduct mindset: balances short-term delivery with maintainability, reuse and business valueComfortable challenging unclear source ownership, weak data provenance and unnecessary duplication constructivelyAutonomous and pragmatic in an environment where requirements, architecture and source availability evolveClear communicator able to work across technical teams, business experts, countries and external partnersFluent professional English; French appreciated but not mandatory unless required by final, 1. Masterâs degree in computer science, software engineering, data engineering or demonstrably equivalent experience 2. Typically 7+ years across software and data engineering, including substantial ownership of production-grade data pipelines 3. Previous responsibilities as Senior Data Engineer, Lead Engineer, Data Engineering Tech Lead or hands-on solution architect strongly preferred 4. Ability to understand complex business rules and translate them into explicit, testable data requirements 5. Product mindset: balances short-term delivery with maintainability, reuse and business value 6. Comfortable challenging unclear source ownership, weak data provenance and unnecessary duplication constructively 7. Autonomous and pragmatic in an environment where requirements, architecture and source availability evolve 8. Clear communicator able to work across technical teams, business experts, countries and external partners 9. Fluent professional English; French appreciated but not mandatory unless required by final sourcing process
EUR
Unity API SQL Modélisation des données Gestion des données Power BI Gestion des incidents Git Python Gouvernance des données KAFKA Terraform PostgreSQL API REST
Benefits & conditions
Contrat et détails non spécifiés
- Localisation non précisée
- Collaboration avec équipes internationales et multi-pays
- Environnement Agile avec forte interaction métier et technique
Apply for this position
This job is hosted externally. Click below to view the full posting and apply.
Prepare application
- Draft this with your agent
- Open in Claude
- Open in ChatGPT
Good distractions
Loading talks and stories from around this roleâŠ