Data Engineer Senior

Rawson BPO
Municipality of Madrid, Spain
2 days ago

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Languages
Spanish
Experience level
Intermediate
Compensation
€ 52K

Job location

Remote
Municipality of Madrid, Spain

Tech stack

Airflow
Amazon Web Services (AWS)
Azure
Big Data
Continuous Integration
Data Transformation
DevOps
JSON
Python
OAuth
Azure
SQL Databases
Google Cloud Platform
Spark
GIT
Data Lake
REST
Databricks
Control M

Job description

Buescamos 2 Data Engineers Senior para incorporarse a un proyecto estratégico en Getnet, participando en la transformación de su plataforma de datos mediante la migración de procesos desde Stratio hacia Databricks. Buscamos perfiles con experiencia en ingeniería de datos, migraciones de plataformas Big Data y optimización de procesos en entornos cloud., * Analizar las ETLs existentes desarrolladas en Stratio.

  • Migrar procesos implementados en Stratio hacia Databricks.
  • Diseñar e implementar pipelines utilizando Apache Spark y Databricks.
  • Optimizar procesos para aprovechar el procesamiento distribuido de Spark.
  • Adaptar procesos de ingestión y transformación de datos.
  • Migrar la orquestación de procesos desde Apache Airflow hacia Control-M.
  • Desarrollar e integrar APIs REST, incluyendo autenticación, tratamiento de errores, reintentos y monitorización.
  • Participar en pruebas funcionales y de rendimiento para validar la migración.
  • Documentar las soluciones desarrolladas y colaborar en la definición de estándares.
  • Trabajar junto a arquitectos de datos, analistas funcionales y responsables del proyecto., Al crear una alerta, aceptas nuestros Términos y condiciones y Política de privacidad, y el uso de cookies., Alemania Australia Austria Bélgica Brasil Canadá España Estados Unidos Francia India Italia México Nueva Zelanda Holanda Polonia Reino Unido Singapur Sudáfrica Suiza

Requirements

Más de 3 años de experiencia como Data Engineer. Experiencia desarrollando ETLs complejas. Dominio de SQL y Python. Experiencia sólida con Apache Spark. Experiencia en Databricks (notebooks y pipelines). Experiencia en proyectos de migración de plataformas de datos. Experiencia en integración mediante APIs REST. Experiencia con Apache Airflow o Control-M (imprescindible al menos una de las dos herramientas). Capacidad para analizar procesos existentes y adaptarlos a una nueva arquitectura. ️ Conocimientos técnicos:

  • Databricks

  • Apache Spark

  • SQL avanzado

  • Python

  • ETLs complejas

  • Apache Airflow

  • Control-M

  • APIs REST

  • OAuth y autenticación mediante tokens

  • Procesamiento de respuestas JSON

  • Gestión de errores y reintentos

  • Git

  • CI/CD Valorable:

  • Delta Lake

  • Stratio

  • Arquitecturas Lakehouse

  • Azure Data Lake / AWS S3

  • Azure, AWS o GCP

  • Data Quality

  • DevOps aplicado a plataformas de datos

  • Monitorización de procesos de datos, + Técnico

  • Recepciónista
  • Administrador
  • Ventas
  • Enfermero
  • Limpieza
  • Mantenimiento
  • Telefonista
  • Compras
  • Recursos humanos

Tipo de trabajo

  • Desde casa
  • Estudiantes
  • Online
  • Trabajos Verticales
  • En inglés
  • Teletrabajo
  • Media jornada

Apply for this position