DATA Engineer - Environnement Databricks F/H
Databricks
Canton de Villeneuve-d’Ascq, France
2 days ago
Role details
Contract type
Permanent contract Employment type
Full-time (> 32 hours) Working hours
Regular working hours Languages
French, English Compensation
€ 42KJob location
Canton de Villeneuve-d’Ascq, France
Tech stack
API
Azure
Configuration Management
Databases
Continuous Integration
Data Integration
ETL
Machine Learning
NoSQL
RabbitMQ
Simple Object Access Protocol (SOAP)
SQL Databases
Data Streaming
Snowflake
Spark
Gitlab
Data Lake
PySpark
Kafka
Docker
Jenkins
Databricks
Job description
Intégrer une équipe motivée et lui transmettre tes connaissances en DATA, mais surtout renforcer les compétences Databricks de l'équipe !
Ces fameuses compétences que tu as, tu nous l'apporteras ! A ta team, à la communauté que tu rejoindras, et surtout à ton client !
Tu seras responsable de la conception, de la mise en œuvre et de la maintenance de solutions de données basées sur les technologies Databricks, Apache Spark, et autres outils de pointe.
Et sinon, ce qui pourrait faire partie de ton quotidien, c'est surtout :
- Concevoir et développer des solutions de données en utilisant Apache Spark (Streaming, ML, SQL), Apache Kafka (Streams, Connect) et Databricks (PySpark, Scala).
- Construire et maintenir des bases de données SQL et NoSQL.
- Mettre en œuvre des solutions de streaming et intégrer des données via des API (REST, SOAP).
- Maintenir des environnements de Warehouse et Datalake.
- Utiliser des outils CI/CD et de gestion de la configuration (Gitlab, Jenkins, etc.).
- Construire et déployer des conteneurs Docker.
- Collaborer avec des équipes internationales et partager les meilleures pratiques au sein de la communauté Data.
Requirements
- Maîtrise des technologies Apache Spark, Apache Kafka, Databricks.
- Connaissance des bases de données SQL et NoSQL.
- Expérience avec les solutions cloud (GCP, Azure).
- Compétences en intégration de données et en solutions de streaming.
- Connaissance des outils CI/CD et des conteneurs Docker.
- Langues : Niveau d'anglais professionnel requis
Qualités personnelles :
- Personnalité ouverte et capable de travailler en équipe.
- Volonté de partager les connaissances et de promouvoir les meilleures pratiques.
En options :
- Fibre commerciale pour les phases d'avant-vente
- Animation d'équipe, management
- Snowflake
- Kafka · RabbitMQ
- Expérience sur d'autres ETL ou ELT