Data Engineer (2FTE) 36u/w

• Als Cloud/Data Engineer werk je actief mee aan de realisatie van schaalbare, efficiënte en veilige data-platforms in de Azure-cloud, waarbij Databricks of Kubernetes een centrale plek inneemt. Je werkt binnen een DevOps team aan oplossingen die techniek, beleid en concrete waarde voor Nederland verbinden.

Je komt te werken binnen het Programma AI van RVO, waarbij je bijdraagt aan de doelstelling om opschaling te doen van bestaande data & AI oplossingen, medewerkers worden opgeleid en er geëxperimenteerd wordt met nieuwe toepassingen en technologieën.

• Data Architectuur & Modellering: Je hebt ruime ervaring met het inrichten van de Medallion Architectuur (Bronze, Silver, Gold) binnen Databricks. Je bent sterk in het vertalen van complexe business logica naar helder gestructureerde datasets, bij voorkeur volgens Kimball (dimensioneel modelleren), en weet robuuste goud-lagen te bouwen.
• Engineering & Transformaties: Je bent bedreven in het ontwikkelen van robuuste datapijplijnen met Kubernetes, PySpark en SQL, en je kent de mogelijkheden van Spark Declarative Pipelines (SDP). Met diepgaande kennis van dbt (data build tool) ontwerp je modulaire en onderhoudbare transformaties.
• Storage & Performance-optimalisatie: Je hebt bewezen affiniteit met het maximaliseren van de platform-performance door het inzetten van de juiste Databricks compute clusters en schaalmogelijkheden. Je bent goed op de hoogte van optimalisaties binnen Delta Lake, zoals Partitioning, Clustering, Z-Ordering en Liquid Clustering.
• Governance & Security: Het inrichten van centrale governance via Unity Catalog is bekend terrein. Je implementeert RBAC (Role-Based Access Control) en hanteert data security best practices als standaard bij de bouw van oplossingen.
• Platform & Deployment: Je zet maximaal in op automatisering en ‘Engineering Excellence’ via Databricks Asset Bundles (DABs) voor betrouwbare en reproduceerbare deployments. Daarnaast ben je vaardig in het instrumenteren, monitoren en debuggen van Databricks jobs, pijplijnen en platformcomponenten.
• Backend & SQL/Postgres (pre): Met Django ontwikkel je API’s, implementeer je authenticatie en zorg je voor betrouwbare koppelingen met databases, waaronder Postgres.
• Monitoring & MLOps (pre): Je zorgt voor goede monitoring en logging (Application Insights, Databricks metrics) en hebt idealiter ervaring met MLOps (model lifecycle management).
• Kennisdeling en ontwikkeling: Je hebt ervaring in het opleiden van interne medewerkers, waarbij je kennis overdraagt en aantoonbaar de expertise van teamleden verhoogt.

Minimaal 4 jaar aantoonbare ervaring met cloud data platforms op Microsoft Azure met Databricks, aantoonbaar middels cv. Minimaal 3 jaar ervaring in het ontwerpen en realiseren van dataplatformen en datapijplijnen met Kubernetes. Minimaal 3 jaar ervaring in het ontwerpen en uitwerken van een technische data solution architectuur, met aandacht voor Governance & Security. Minimaal 3 jaar ervaring in het ontwikkelen van datapijplijnen met PySpark en SQL.

Kennis van en ervaring met Microsoft Azure, in het bijzonder Databricks, Storage, Active Directory en Key Vault, met verantwoordelijkheid voor de realisatie van (een significant deel van) een data-platform van start tot implementatie en oplevering. De ervaring blijkt uit de beschrijving van de werkzaamheden en resultaten in het cv. Kennis van en ervaring met het naar productie brengen van modellen en deze te beheren en schalen met Azure, Kubernetes, Databricks. Werken volgens best practices (CI/CD, testing, versioning, IaC), blijkend uit concrete voorbeelden in cv of motivatie. In staat om collega’s/teamleden te laten groeien in data-engineering vaardigheden, blijkend uit concrete voorbeelden in cv of motivatie. Solliciteer nu! Ga naar de bovenkant