Data Engineer : Databricks / GCP

OCTOGONE

Vélizy-Villacoublay, France

about 1 month ago

Apply on fr.indeed.com

Prepare application

Role details

Contract type

Permanent contract

Employment type

Full-time (> 32 hours)

Working hours

Regular working hours

Job source

fr.indeed.com

Tech stack

Application Programming Interfaces (APIs) Continuous Integration Data Integration DevOps Github Python (Programming Language) SQL Databases Apache Spark Pyspark Data Management Databricks

Job description

Nous allons travailler sur un POC Réseau Autonome d’une durée limitée (approx 6 mois à partir de septembre), l’objectif est de collecter des données réseaux (données config Radio, Kpi, référentielles) les intégrer dans Databricks, développer des API pour requêter ces données afin que des agent IA puissent requêter les données à travers ces API.

Livrables:

Conception et développement de projets d’intégration de données pour des projets à forte valeur ajoutée.

Développement de jobs d’intégration de données en PySpark, Spark, Python en mode streaming et batch sur la plateforme Databricks.

La mise en ?uvre de CI/CD (github, devops, Databricks Bundles), de l’orchestration, du data management et de la sécurité.

Optimisation des jobs et des ressources cloud (GCP et Databricks).

Mise en place de de Dashboard Finops afin de suivre l’usage des ressources GCP / Databricks.

Travailler au sein d’équipes pluridisciplinaires : chefs de projet, architectes, devops, data engineer.

Assurer une formation continue, le partage de connaissances, mise en place de documentation.

Requirements

Maitrise de Databricks : Administration, Gestion des Catalogues, Delta, Optimisation.
Maîtrise de PySpark, Spark, Python, SQL, GIT.
Bonne connaissance GCP
Esprit d’équipe et envie d’apprendre et d’évoluer dans un un environnement collaboratif.
Excellente capacité à communiquer et à partager vos connaissances.