Data Engineer

Sijo
Paris, France
26 days ago
Apply on www.indeed.com
Prepare application

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Experience level
Expert
Working hours
Regular working hours
Job source

Tech stack

Java (Programming Language) Automation of Tests Continuous Integration Extract Transform Load (ETL) Software Debugging DevOps Python (Programming Language) SQL Databases Talend Management of Software Versions Data Logging Generative AI
+7 more
Change Data Capture Git Data Lakes Pyspark Qlikview Apache Kafka Databricks

Job description

???Concevoir et implĂ©menter des pipelines d’ingestion et de transformation de donnĂ©es (batch et temps rĂ©el), robustes et scalables. ???DĂ©velopper et maintenir les flux ETL Talend qui alimentent le datalake et les systĂšmes consommateurs. ???DĂ©velopper des traitements Python / PySpark sur Databricks et mettre en ?uvre les modĂšles de donnĂ©es cibles. ???Automatiser les transformations, la documentation et les tests de donnĂ©es avec dbt. ???Configurer les pipelines d’acheminement des donnĂ©es, y compris les flux CDC. ???Mettre en place les bonnes pratiques de qualitĂ© de donnĂ©es, de monitoring, d’alerting et de logging. ???DĂ©velopper des modules rĂ©utilisables (templates de pipelines, librairies communes, CI/CD) et exploiter les modules existants dans les nouveaux projets. ???RĂ©aliser les dĂ©veloppements et les tests associĂ©s, et accompagner les mises en production.

Requirements

???Solide maĂźtrise de l’ETL Talend (dĂ©veloppement, debug, industrialisation) et connaissance du langage Java. ???Bonne maĂźtrise de Python et PySpark. ???ExpĂ©rience significative sur Databricks (jobs, workflows, Delta Lake, notebooks, optimisation). ???TrĂšs bonne maĂźtrise de SQL (requĂȘtes analytiques complexes, optimisation). ???Pratique de dbt pour les modĂšles analytiques. ???Connaissance des outils CDC (Change Data Capture) ; Qlik Replicate (ex-Attunity) est un plus. ???Connaissance des plateformes de streaming ; Kafka est un plus. ???ExpĂ©rience DevOps : CI/CD, versioning Git, automatisation des tests et des dĂ©ploiements. ???Pratique des outils d’IA gĂ©nĂ©rative pour accĂ©lĂ©rer le dĂ©veloppement (gĂ©nĂ©ration assistĂ©e de code PySpark, Python et SQL, refactoring, tests), avec une revue critique et une comprĂ©hension fine du code mis en production.

Apply for this position

This job is hosted externally. Click below to view the full posting and apply.

Apply on www.indeed.com
Prepare application

Good distractions

Loading talks and stories from around this role