Senior Data Engineer - Data Engineering Tech Lead H/F

SQUAD
Paris, France
1 day ago
Apply on www.hellowork.com
Prepare application

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Experience level
Expert
Working hours
Regular working hours

Tech stack

Unity 3d .NET Framework Application Programming Interfaces (APIs) Agile Methodology Amazon Web Services Automation of Tests Microsoft Azure Cloud Database Code Review Databases Continuous Integration Customer Data Management
+25 more
Information Engineering Data Governance Data Transformation DevOps Python (Programming Language) PostgreSQL Operational Data Store Operational Databases Reference Data Power BI Software Engineering SQL Databases Data Streaming Azure Service Bus Data Logging Apache Spark Technical Debt Git Data Lakes Information Technology Apache Kafka Data Management Restful APIs Terraform Databricks

Job description

Le Senior Data Engineer / Data Engineering Tech Lead sera responsable des fondations techniques qui rendent les donnĂ©es 24/7 utilisables, fiables et Ă©volutives. Ce rĂŽle senior est trĂšs opĂ©rationnel avec des responsabilitĂ©s lĂ©gĂšres de leadership technique, et non un poste gĂ©nĂ©raliste en dĂ©veloppement .NET. L’accent est mis sur l’ingestion, la transformation, la qualitĂ© des donnĂ©es, la traçabilitĂ©, l’observabilitĂ© et la livraison sĂ©curisĂ©e de produits de donnĂ©es et de jeux de donnĂ©es prĂȘts au calcul. Le rĂŽle guide les choix et standards techniques tout en continuant Ă  concevoir et construire des composants critiques directement. Travaillant au sein de l’équipe fonctionnelle 24/7, le Senior Data Engineer / Data Engineering Tech Lead collaborera avec le Product Owner, les Business Analysts, les ingĂ©nieurs logiciels, les architectes, les Ă©quipes plateforme data et les parties prenantes pays. La personne doit ĂȘtre Ă  l’aise pour livrer des solutions tactiques sans perdre de vue l’architecture cible et les capacitĂ©s rĂ©utilisables., A. Architecture des donnĂ©es et intĂ©gration des sources

  • Contribuer Ă  l’architecture des donnĂ©es de bout en bout et documenter les flux, interfaces, dĂ©pendances et responsabilitĂ©s actuels et cibles.
  • Concevoir et construire des pipelines d’ingestion Ă  partir de jeux de donnĂ©es internes, bases de donnĂ©es, API REST, flux partenaires et Ă©changes de fichiers contrĂŽlĂ©s.
  • IntĂ©grer des donnĂ©es pays hĂ©tĂ©rogĂšnes tout en isolant la logique spĂ©cifique aux sources via des connecteurs rĂ©utilisables et des contrats d’interface clairs.
  • ImplĂ©menter des traitements batch et, lorsque justifiĂ© par les niveaux de service mĂ©tier, des patterns quasi temps rĂ©el ou streaming.
  • DĂ©finir une gestion robuste de l’évolution des schĂ©mas, des donnĂ©es tardives, des rejouages, de l’idempotence, des backfills et des enregistrements Ă©chouĂ©s.
  • Collaborer avec les Ă©quipes plateforme pour dĂ©cider quand 24/7 doit consommer des produits de donnĂ©es existants ou des capacitĂ©s partagĂ©es de sĂ©ries temporelles plutĂŽt que dupliquer des copies locales.

B. Ingénierie des séries temporelles et modélisation des données

  • Concevoir des structures Ă©volutives pour des donnĂ©es d’intervalle Ă  fort volume, incluant la consommation client et la production d’actifs.
  • DĂ©finir et maintenir des modĂšles canoniques pour client, entitĂ© lĂ©gale, site, point de comptage, contrat, actif, allocation, certificat, sĂ©rie temporelle, rĂ©sultat de matching et pĂ©riode de reporting.
  • Appliquer des patterns de modĂ©lisation adaptĂ©s aux donnĂ©es opĂ©rationnelles applicatives, produits analytiques et jeux de donnĂ©es prĂȘts au calcul.
  • GĂ©rer les fuseaux horaires, transitions heure d’étĂ©, granularitĂ© des intervalles, unitĂ©s de mesure, intervalles manquants, doublons et corrections versionnĂ©es.
  • Optimiser le stockage, le partitionnement, l’indexation et la performance de traitement selon les charges et exigences de rĂ©tention.

C. Transformation des données et activation des calculs

  • Construire des transformations testĂ©es standardisant les donnĂ©es sources en courbes de consommation et production prĂȘtes au calcul.
  • Permettre le Hourly Matching Score et les indicateurs clients associĂ©s via des jeux de donnĂ©es et services de calcul reproductibles et versionnĂ©s.
  • Collaborer avec les spĂ©cialistes mĂ©tier et produit pour traduire les rĂšgles de calcul en spĂ©cifications techniques explicites et tests automatisĂ©s.
  • PrĂ©server la distinction entre mesures opĂ©rationnelles provisoires et rĂ©sultats de reporting validĂ©s ou certifiĂ©s.

D. Qualité des données, traçabilité et observabilité

  • Mettre en oeuvre des contrĂŽles automatisĂ©s de complĂ©tude, validitĂ©, actualitĂ©, unicitĂ©, cohĂ©rence et intĂ©gritĂ© rĂ©fĂ©rentielle.
  • DĂ©finir des contrĂŽles de rĂ©conciliation entre donnĂ©es sources, ingĂ©rĂ©es, transformĂ©es et reportĂ©es.
  • Fournir une traçabilitĂ© technique complĂšte, mĂ©tadonnĂ©es d’exĂ©cution et preuves auditables des versions source, transformation et calcul.
  • CrĂ©er des tableaux de bord de monitoring, alertes et opĂ©rationnels couvrant la fraĂźcheur, les Ă©checs de pipeline, les enregistrements rejetĂ©s et le respect des niveaux de service.
  • Contribuer Ă  l’analyse des incidents, correction des causes racines et prĂ©vention des rĂ©cidives.

E. Ingénierie, sécurité et exploitation

  • Utiliser un dĂ©veloppement basĂ© sur Git, revue par les pairs, tests automatisĂ©s et CI/CD pour livrer des pipelines de donnĂ©es fiables.
  • Contribuer Ă  l’Infrastructure as Code et Ă  la configuration des environnements avec les Ă©quipes DevOps et plateforme.
  • Appliquer la sĂ©curitĂ© dĂšs la conception : accĂšs au moindre privilĂšge, gestion des secrets, chiffrement, sĂ©paration des environnements et traitement sĂ©curisĂ© des donnĂ©es clients.
  • Produire un code maintenable, des runbooks, des dĂ©cisions d’architecture, des contrats de donnĂ©es et une documentation opĂ©rationnelle.
  • Participer aux cĂ©rĂ©monies Agile tout en maintenant un backlog technique pour la fiabilitĂ©, l’évolutivitĂ© et la dette technique.

Leadership technique opérationnel attendu

  • Agir comme rĂ©fĂ©rence senior en ingĂ©nierie des donnĂ©es au sein de la squad 24/7 tout en restant directement impliquĂ© dans la conception, le codage, les tests et le support en production.
  • DĂ©finir des patterns d’ingĂ©nierie pragmatiques pour ingestion, transformation, tests, dĂ©ploiement, monitoring et rĂ©cupĂ©ration, en assurant leur adoption cohĂ©rente.
  • Piloter les revues techniques et de code ; coacher les ingĂ©nieurs logiciels contribuant aux flux de donnĂ©es sans devenir manager.
  • Remettre en question les duplications tactiques et formuler des recommandations explicites build-versus-reuse avec les parties prenantes plateforme B2B et architecture.
  • Transformer des exigences ambiguĂ«s et des sources fragmentĂ©es en dĂ©cisions techniques sĂ©quencĂ©es, incrĂ©ments livrables et backlog technique contrĂŽlĂ©.
  • Assumer les dĂ©cisions clĂ©s non fonctionnelles couvrant scalabilitĂ©, fiabilitĂ©, sĂ©curitĂ©, opĂ©rabilitĂ©, maintenabilitĂ© et coĂ»t.

Domaines de données prioritaires

  • DonnĂ©es de rĂ©fĂ©rence client, entitĂ© lĂ©gale, site et point de livraison.
  • ParamĂštres contractuels, engagements de matching cible et calendriers de reporting.
  • DonnĂ©es de consommation client horaire ou sub-horaire et donnĂ©es de compteur.
  • IdentitĂ©, caractĂ©ristiques et donnĂ©es de production d’actifs renouvelables ou carboneutres.
  • Allocation des actifs et volumes d’énergie aux contrats.
  • Certificats ou Garanties d’Origine et preuves associĂ©es.
  • RĂ©sultats de matching, versions mĂ©thodologiques et sorties de reporting client.

Outils & Environnement

  • Python avancĂ© et SQL pour le traitement de donnĂ©es en production
  • Pipelines de donnĂ©es intĂ©grant API, bases de donnĂ©es et fichiers
  • Git, revue de code, CI/CD et promotion d’environnements
  • Cloud data engineering sur Azure ou AWS
  • Outils de logging, monitoring, alerting et gestion des incidents
  • SĂ©curitĂ© des accĂšs aux donnĂ©es et gestion des secrets

Requirements

Databricks, Spark, Delta Lake, Unity Catalog (fortement apprécié)

  • Plateformes spĂ©cialisĂ©es sĂ©ries temporelles comme PostgreSQL / TimescaleDB
  • Architecture Data Lake / Lakehouse
  • Services temps rĂ©el ou streaming (Kafka, Event Hubs ou Ă©quivalent)
  • Terraform ou autre outil Infrastructure-as-Code
  • Outils de catalogage, traçabilitĂ© et gouvernance des donnĂ©es
  • Power BI ou intĂ©gration couche sĂ©mantique
  • Outils d’ingĂ©nierie assistĂ©e par IA dans un cadre sĂ©curisĂ©, Master’s degree in computer science, software engineering, data engineering or demonstrably equivalent experienceTypically 7+ years across software and data engineering, including substantial ownership of production-grade data pipelinesPrevious responsibilities as Senior Data Engineer, Lead Engineer, Data Engineering Tech Lead or hands-on solution architect strongly preferredAbility to understand complex business rules and translate them into explicit, testable data requirementsProduct mindset: balances short-term delivery with maintainability, reuse and business valueComfortable challenging unclear source ownership, weak data provenance and unnecessary duplication constructivelyAutonomous and pragmatic in an environment where requirements, architecture and source availability evolveClear communicator able to work across technical teams, business experts, countries and external partnersFluent professional English; French appreciated but not mandatory unless required by final, 1. Master’s degree in computer science, software engineering, data engineering or demonstrably equivalent experience 2. Typically 7+ years across software and data engineering, including substantial ownership of production-grade data pipelines 3. Previous responsibilities as Senior Data Engineer, Lead Engineer, Data Engineering Tech Lead or hands-on solution architect strongly preferred 4. Ability to understand complex business rules and translate them into explicit, testable data requirements 5. Product mindset: balances short-term delivery with maintainability, reuse and business value 6. Comfortable challenging unclear source ownership, weak data provenance and unnecessary duplication constructively 7. Autonomous and pragmatic in an environment where requirements, architecture and source availability evolve 8. Clear communicator able to work across technical teams, business experts, countries and external partners 9. Fluent professional English; French appreciated but not mandatory unless required by final sourcing process

EUR

Unity API SQL Modélisation des données Gestion des données Power BI Gestion des incidents Git Python Gouvernance des données KAFKA Terraform PostgreSQL API REST

Benefits & conditions

Contrat et détails non spécifiés

  • Localisation non prĂ©cisĂ©e
  • Collaboration avec Ă©quipes internationales et multi-pays
  • Environnement Agile avec forte interaction mĂ©tier et technique

Apply for this position

This job is hosted externally. Click below to view the full posting and apply.

Apply on www.hellowork.com
Prepare application

Good distractions

Loading talks and stories from around this role