Data Ingénieur Analytics H/F

Clubsec
Canton de Torcy, France
2 days ago

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Languages
French

Job location

Canton de Torcy, France

Tech stack

API
Airflow
Amazon Web Services (AWS)
Amazon Web Services (AWS)
Data analysis
Azure
Big Data
Cloud Computing
Cloud Storage
Continuous Integration
DevOps
Hadoop
Hive
Python
Performance Tuning
Prometheus
SQL Databases
Data Streaming
WebKit
Datadog
Google Cloud Platform
Grafana
Spark
GIT
Pandas
Event Driven Architecture
Data Lake
PySpark
Gitlab-ci
Kubernetes
Real Time Data
Kafka
Data Management
Dataiku
Terraform
Docker
Jenkins

Job description

Contexte de la mission

Dans le cadre de la maintenance et du passage à l'échelle de nos différents outils de datavisualisation et d'analytics, la mission vise à assurer la robustesse des chaînes de traitement de données, l'optimisation des performances et l'intégration de nouveaux cas d'usage analytiques.

  • Bonne compréhension des architectures Data modernes (Data Lake, Data Mesh, Event-Driven Architecture).

  • Maîtrise des principes de conception et d'industrialisation des flux de données batch et temps réel.

  • Connaissance des architectures événementielles et des mécanismes de

publication/consommation d'événements (topics, messaging, streaming).

  • Expérience des environnements Cloud AWS et des bonnes pratiques d'exploitation associées.

  • Compréhension des enjeux de gouvernance, de qualité et de traçabilité des données.

  • Capacité à concevoir des solutions robustes, résilientes et évolutives répondant aux besoins métiers

Catégorie Compétences Obligatoires Compétences Souhaitées

Big Data Spark (PySpark/Spark SQL), optimisation des jobs Hadoop

Streaming Kafka (producteur/consommateur, topics, partitions) Kafka Connect

Langages Python (Pandas, PySpark), SQL Scala (option)

Cloud AWS/GCP/Azure Terraform, Cloud Storage (S3, GCS)

Monitoring Datadog (métriques custom, API) Prometheus, Grafana

Outils Data Airflow, Dataiku (intégration, recettes)

DevOps Kubernetes, Helm, Docker, CI/CD (GitLab CI, Jenkins)

Objectifs et livrables

Assurer le maintien en conditions opérationnelles de l'infrastructure Data sur AWS et des produits existants, tout en concevant et déployant des topics événementiels permettant la diffusion et la consommation de données en temps réel. La mission vise à renforcer la robustesse, la scalabilité et l'interopérabilité des plateformes de données afin de répondre aux nouveaux besoins métiers et analytiques., Scala Google cloud platform Hadoop SQL Gestion des données Grafana

Requirements

Profil recherchéCompétencesNiveau de compétencePython (Pandas, PySpark) ConfirméSpark (PySpark/Spark SQL) ConfirméKafka (producteur/consommateur, topics, partitions) ConfirméConnaissance des architectures événementielles et des mécanismes de publication/consommation d'événements (topics, messaging, streaming).

Mais aussi...

Taux journalier :600.css-11k7fwb{display:inline-block;white-space:nowrap;vertical-align:middle;-webkit-padding-start:var(--chakra-space-1-5);padding-inline-start:var(--chakra-space-1-5);-webkit-padding-end:var(--chakra-space-1-5);padding-inline-end:var(--chakra-space-1-5);text-transform:none;font-size:var(--chakra-fontSizes-xs);border-radius:var(--chakra-radii-md);font-weight:var(--chakra-fontWeights-semibold);background:var(--chakra-colors-success-200);color:var(--chakra-colors-success-700);box-shadow:var(--badge-shadow);padding:4px 6px;--badge-bg:var(--chakra-colors-success-100);--badge-color:colors.success.800;}.chakra-ui-dark .css-11k7fwb:not([data-theme]),[data-theme=dark] .css-11k7fwb:not([data-theme]),.css-11k7fwb[data-theme=dark]{--badge-bg:rgba(226, 243, 232, 0.16);--badge-color:var(--chakra-colors-success-200);}Cette offre est à 0% de commission .css-74lrwu{width:1em;height:1em;line-height:1em;-webkit-flex-shrink:0;-ms-flex-negative:0;flex-shrink:0;color:currentColor;font-size:16px;display:-webkit-box;display:-webkit-flex;display:-ms-flexbox;display:flex;-webkit-transition:.1s ease-in-out color;transition:.1s ease-in-out color;}.css-74lrwu *{-webkit-transition:.1s ease-in-out fill;transition:.1s ease-in-out fill;fill:var(--chakra-colors-rythm-600);}, Spark (PySpark/Spark SQL) Confirmé

Kafka (producteur/consommateur, topics, partitions) Confirmé

Connaissance des architectures événementielles et des mécanismes de publication/consommation d'événements (topics, messaging, streaming)., Git Jenkins Kubernetes Big data Python KAFKA Terraform Docker

Apply for this position