Data Platform Engineer H/F

Propertyvalue
France
1 day ago
Apply on www.hellowork.com
Prepare application

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Experience level
Expert
Experience required
5 years minimum
Working hours
Regular working hours

Tech stack

Amazon Web Services Amazon S3 Cloud Computing Continuous Integration Data Governance Data Infrastructure Github Identity and Access Management Python (Programming Language) SQL Databases Informatica Powercenter Snowflake
+8 more
Apache Spark Generative AI Git Data Lakes Pyspark Data Management Terraform Databricks

Job description

La mission s’inscrit dans le déploiement d’une nouvelle plateforme Master Data Management (MDM) reposant notamment sur Databricks et AWS.

Vous n’interviendrez pas directement sur l’implémentation fonctionnelle ou la migration du MDM : votre rôle sera de fournir, industrialiser et sécuriser les fondations Data & Cloud nécessaires aux équipes projet et à l’intégrateur., Vous interviendrez notamment sur :

  • La mise en place et l’exploitation des environnements Databricks sur AWS
  • Le développement et la maintenance de pipelines Data en Python / PySpark / SQL
  • La gestion de Delta Lake, Unity Catalog, permissions, schemas et accès aux données
  • L’intégration sécurisée entre Databricks et les services AWS : S3, IAM, networking, secrets…
  • Le développement et la maintenance de modules Terraform
  • L’automatisation du provisioning et du cycle de vie des composants de la plateforme
  • La mise en place et l’amélioration des chaînes CI/CD
  • L’utilisation de Git / GitHub / GitHub Actions
  • L’optimisation des traitements Spark : performances, fiabilité et coûts
  • La revue et le challenge des pipelines développés dans le cadre du programme
  • L’amélioration de l’observabilité : logs, métriques, monitoring et alerting
  • La participation aux démarches FinOps sur Databricks et AWS
  • Le développement de scripts, librairies et outils Python permettant d’automatiser les opérations récurrentes, Delta Lake
  • Delta Sharing / Open Sharing
  • Lakehouse Federation
  • AWS IAM / S3 / networking
  • GitHub Actions
  • Data Quality
  • Observabilité
  • Optimisation des coûts Cloud / FinOps

Requirements

Vous justifiez d’au moins 5 ans d’expérience en Data Engineering, avec une expérience significative sur des environnements Data complexes et en production.

Compétences indispensables :

  • Databricks
  • AWS
  • Python
  • PySpark / Spark
  • SQL
  • Terraform
  • CI/CD
  • Git

Une expérience concrète de Databricks sur AWS est particulièrement recherchée.

La maîtrise ou une bonne connaissance de plusieurs des sujets suivants sera fortement appréciée :

  • Unity Catalog, Expérience sur un programme MDM ou Data Governance
  • Connaissance de Snowflake
  • Expérience dans l’industrie pharmaceutique ou Healthcare
  • Connaissance des environnements réglementés et contraintes GxP
  • Certification Databricks ou AWS
  • Sensibilité aux sujets GenAI / AWS Bedrock

Une expertise Reltio ou Informatica MDM n’est pas nécessaire.

Nous recherchons avant tout un profil hands-on, capable de développer, automatiser, industrialiser et challenger techniquement une plateforme Data, tout en collaborant avec les équipes Data, Cloud, sécurité, architecture et un intégrateur externe., Profil recherchéAu moins 5 ans d’expérience en Data EngineeringExpérience significative sur des environnements Data complexes et en productionCompétences indispensables : Databricks, AWS, Python, PySpark / Spark, SQL, Terraform, CI/CD, GitExpérience concrète de Databricks sur AWSMaîtrise ou bonne connaissance de plusieurs sujets suivants : Unity Catalog, Delta Lake, Delta Sharing / Open Sharing, Lakehouse Federation, AWS IAM / S3 / networking, GitHub Actions, Data Quality, Observabilité, Optimisation des coûts Cloud / FinOpsExpérience sur un programme MDM ou Data Governance (atout)Connaissance de Snowflake (atout)Expérience dans l’industrie pharmaceutique ou Healthcare (atout)Connaissance des environnements réglementés et contraintes GxP (atout)Certification Databricks ou AWS (atout)Sensibilité aux sujets GenAI / AWS Bedrock (atout)Profil hands-on, capable de développer, automatiser, industrialiser et challenger techniquement une plateforme DataCapacité à collaborer avec les équipes Data, Cloud, sécurité, architecture et un intégrateur externe, 1. Au moins 5 ans d’expérience en Data Engineering

  1. Expérience significative sur des environnements Data complexes et en production
  2. Compétences indispensables : Databricks, AWS, Python, PySpark / Spark, SQL, Terraform, CI/CD, Git
  3. Expérience concrète de Databricks sur AWS
  4. Maîtrise ou bonne connaissance de plusieurs sujets suivants : Unity Catalog, Delta Lake, Delta Sharing / Open Sharing, Lakehouse Federation, AWS IAM / S3 / networking, GitHub Actions, Data Quality, Observabilité, Optimisation des coûts Cloud / FinOps
  5. Expérience sur un programme MDM ou Data Governance (atout)
  6. Connaissance de Snowflake (atout)
  7. Expérience dans l’industrie pharmaceutique ou Healthcare (atout)
  8. Connaissance des environnements réglementés et contraintes GxP (atout)
  9. Certification Databricks ou AWS (atout)
  10. Sensibilité aux sujets GenAI / AWS Bedrock (atout)
  11. Profil hands-on, capable de développer, automatiser, industrialiser et challenger techniquement une plateforme Data
  12. Capacité à collaborer avec les équipes Data, Cloud, sécurité, architecture et un intégrateur externe

EUR

Unity SQL Optimisation des coûts AWS Git Python

Benefits & conditions

Taux journalier :Salaire selon profil

About the company

Dans le cadre d’un programme stratégique de transformation Data au sein d’un grand groupe international du secteur pharmaceutique, nous recherchons un Senior Data Platform Engineer pour renforcer l’équipe Data & AI Platform Engineering.

Apply for this position

This job is hosted externally. Click below to view the full posting and apply.

Apply on www.hellowork.com
Prepare application

Good distractions

Talks and stories from around this role — technically off-topic, practically not.

6:21 min

Investigating push inefficiencies with upstream Git experts

Jonathan Creamer · Coffee With Developers

6:36 min

Funding open source through GitHub Accelerator and Sponsors

Stormy Peters · World Congress 2023

4:32 min

Harnessing Spark with Python using PySpark and Py4J

Ayon Roy · LIVE

3:09 min

Balancing data science skillings alongside systems engineering rigor

Nico Schmidt · LIVE

56 sec

Favorite git commands and the importance of patch commits

Eileen Uchitelle Eileen Uchitelle +1 · Coffee With Developers

1:34 min

Bringing diverse skills to industrial data science roles

Katja Träumner

Videos

See all

Related articles

See all