Ingeniero De Datos Senior

Quantia Ingeniería
Municipality of Granada, Spain
2 days ago

Role details

Contract type
Apprenticeship
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Languages
Spanish
Experience level
Intermediate

Job location

Municipality of Granada, Spain

Tech stack

Airflow
Apache HTTP Server
Azure
Cloud Computing
Continuous Integration
Information Engineering
Data Infrastructure
Github
Python
Machine Learning
Azure
Software Engineering
Simple Object Database Access
Spark
Data Lake
PySpark
Information Technology
Databricks

Job description

En QuantIA Ingeniería y Consultoría transformamos procesos complejos a través de soluciones tecnologías de vanguardia como agentes de IA, Machine Learning, analítica avanzada y gemelos digitales.Nuestros socios van desde destacadas instituciones financieras a nivel mundial hasta empresas líderes en los sectores energético, telecomunicaciones e industrial.Nuestros Valores definen nuestra CulturaExcelencia Técnica: Nos apasiona el código limpio, la estructuración lógica y las arquitecturas escalables.Propiedad (Ownership): Cada ingeniero es el responsable final de su impacto.Aquí diseñas, implementas y respondes por tu arquitectura.Pragmatismo: Buscamos soluciones robustas que funcionen en producción, optimizando costes y rendimiento real, no solo modelos teóricos en local.Evolución Constante: El aprendizaje y la adopción de herramientas modernas son parte crítica de nuestro stack técnico.Tu Rol y Desafíos Técnicos en el EquipoComo Data Engineer, trabajarás codo con codo con el equipo técnico central en el diseño e implementación de los pipelines que ingestan, transforman y entregan datos críticos de infraestructura física hacia los equipos de analítica avanzada e IA en nuestro equipo de I+D+i.No gestionarás un sistema heredado o "legacy" - lo estás construyendo tú desde los cimientos bajo una mentalidad puramente Green Field.1.Arquitectura de Pipelines y Procesamiento EscalableDiseñar, implementar y mantener pipelines de ingesta y transformación distribuidos utilizando Python y Apache Spark (PySpark).Garantizar el procesamiento eficiente de grandes volúmenes de datos procedentes de infraestructura física en tiempo real y batch, asegurando un rendimiento óptimo bajo entornos de alta carga.2.Orquestación, Plataforma y Control de CostesOrquestar, monitorizar y trazar el linaje de todos los pipelines de datos utilizando Dagster o similar como pieza central de automatización de nuestra arquitectura moderna.Operar, tunear y optimizar clústeres de Databricks, asumiendo la responsabilidad sobre la configuración de jobs, políticas de escalado eficiente y la gestión estratégica de costes de computación cloud.3.Gobernanza del Dato, Almacenamiento y CalidadGestionar el almacenamiento en Azure Data Lake Storage Gen2 y Delta Lake, definiendo minuciosamente la estructura de capas (Medallion Architecture: Bronze, Silver, Gold), naming conventions y políticas estrictas de control de acceso mediante Unity Catalog.Implementar frameworks avanzados de calidad de datos (Great Expectations o Soda) para asegurar la observabilidad, fiabilidad y consistencia del dato a lo largo de toda la cadena de procesamiento.Colaborar activamente en la definición de estándares, convenciones de código limpio y el diseño del ciclo de CI/CD de la plataforma de datos.Resumen del Stack Técnico de Infraestructura de DatosOrquestación: Dagster o similarProcesamiento: Python · PySpark · Apache SparkPlataforma: Databricks (Unity Catalog, Clusters, Jobs)Almacenamiento: Azure Data Lake Storage Gen2 · Delta LakeCI/CD: GitHub Actions o Azure DevOpsCalidad de Datos: Great Expectations o SodaRequisitos: Lo que buscamos en tiExperiencia Específica: Mínimo 3 años de experiencia demostrable en ingeniería de datos, habiendo diseñado, desplegado y operado plataformas de datos complejas en entornos reales de producción.Core Técnico: Dominio sólido y avanzado de Python orientado a la ingeniería de software/datos y experiencia real resolviendo cuellos de botella con Apache Spark / PySpark.Ecosistema Cloud & Databricks: Experiencia práctica operando Databricks (administración de Unity Catalog, gobernanza, optimización de consultas y jobs) y conocimiento profundo del almacenamiento estructurado sobre Azure Data Lake Gen2 y Delta Lake.Orquestación Moderna: Experiencia directa con Dagster.En su defecto, dominio profundo de orquestadores modernos (como Prefect o Airflow) acompañado de una fuerte motivación técnica para liderar la adopción de Dagster en nuestra infraestructura.Mentalidad Green Field: Capacidad demostrada para trabajar con alta autonomía en entornos de plataforma en fase temprana, tolerando la ambigüedad inherente al diseño desde cero y proponiendo proactivamente las mejores prácticas de la industria.Muy ValorableFormación Avanzada: Estar en posesión de un PhD (Doctorado) o Máster de investigación en Ciencias de la Computación, Matemáticas, Física, Ingeniería o disciplinas cuantitativas equivalentes.Valoramos enormemente la capacidad metodológica, el pensamiento analítico abstracto y el rigor científico aplicados a la resolución de problemas complejos de datos e infraestructura que aporta un perfil investigador.¿Por qué elegir QuantIA?Proyectos Reales: Olvídate de picar código sobre parches de otros.Diseñarás la infraestructura de datos de desde cero.Entorno de Alto Rendimiento: Un equipo horizontal de ingenieros donde el rigor técnico, las matemáticas avanzadas y la innovación en producción son el día a día.Modelo Híbrido (Granada): Creemos en el valor de la colaboración presencial y la flexibilidad.Trabajamos con un modelo de 3 días en nuestras oficinas de Granada y 2 días de trabajo en remoto.¿Estás listo para el reto?Únete a QuantIA.#J-*****-Ljbffr

Requirements

SodaRequisitos: Lo que buscamos en tiExperiencia Específica: Mínimo 3 años de experiencia demostrable en ingeniería de datos, habiendo diseñado, desplegado y operado plataformas de datos complejas en entornos reales de producción.Core Técnico: Dominio sólido y avanzado de Python orientado a la ingeniería de software/datos y experiencia real resolviendo cuellos de botella con Apache Spark / PySpark.Ecosistema Cloud & Databricks: Experiencia práctica operando Databricks (administración de Unity Catalog, gobernanza, optimización de consultas y jobs) y conocimiento profundo del almacenamiento estructurado sobre Azure Data Lake Gen2 y Delta Lake.Orquestación Moderna: Experiencia directa con Dagster. En su defecto, dominio profundo de orquestadores modernos (como Prefect o Airflow) acompañado de una fuerte motivación técnica para liderar la adopción de Dagster en nuestra infraestructura.Mentalidad Green Field: Capacidad demostrada para trabajar con alta autonomía en entornos de plataforma en fase temprana, tolerando la ambigüedad inherente al diseño desde cero y proponiendo proactivamente las mejores prácticas de la industria.Muy ValorableFormación Avanzada: Estar en posesión de un PhD (Doctorado) o Máster de investigación en Ciencias de la Computación, Matemáticas, Física, Ingeniería o disciplinas cuantitativas equivalentes. Valoramos enormemente la capacidad metodológica, el pensamiento analítico abstracto y el rigor científico aplicados a la resolución de problemas complejos de datos e infraestructura que aporta un perfil investigador.

About the company

Proyectos Reales: Olvídate de picar código sobre parches de otros. Diseñarás la infraestructura de datos de desde cero.Entorno de Alto Rendimiento: Un equipo horizontal de ingenieros donde el rigor técnico, las matemáticas avanzadas y la innovación en producción son el día a día.Modelo Híbrido (Granada): Creemos en el valor de la colaboración presencial y la flexibilidad. Trabajamos con un modelo de 3 días en nuestras oficinas de Granada y 2 días de trabajo en remoto.

Apply for this position