Cloud / Data Engineer

Blue Trail
Den Ham, Netherlands
2 days ago

Role details

Contract type
Permanent contract
Employment type
Full-time (> 32 hours)
Working hours
Regular working hours
Languages
Dutch
Experience level
Intermediate

Job location

Den Ham, Netherlands

Tech stack

Microsoft Active Directory
API
Artificial Intelligence
Data analysis
Application Performance Management
Azure
Cluster Analysis
Continuous Integration
Data Security
Dimensional Modeling
Django
PostgreSQL
Role-Based Access Control
SQL Databases
Management of Software Versions
Data Logging
Data Build Tool (dbt)
Spark
Backend
Data Lake
PySpark
Kubernetes
Machine Learning Operations
Key Vault
Databricks

Job description

  • Als Cloud / Data Engineer werk je actief mee aan de realisatie van schaalbare, efficiënte en veilige data-platforms in de Azure Cloud, waarbij Databricks of Kubernetes een centrale plek inneemt. Je werkt binnen een DevOps team aan oplossingen die techniek, beleid en concrete waarde voor Nederland verbinden.

Requirements

  • Data Architectuur & Modellering: je hebt ruime ervaring met het inrichten van de Medallion Architectuur (Bronze, Silver, Gold) binnen Databricks. Je bent sterk in het vertalen van complexe business logica naar helder gestructureerde datasets, bij voorkeur volgens Kimball (dimensioneel modelleren), en weet robuuste goud-lagen te bouwen.

  • Engineering & Transformaties: je bent bedreven in het ontwikkelen van robuuste datapijplijnen met Kubernetes, PySpark en SQL, en je kent de mogelijkheden van Spark Declarative Pipelines (SDP). Met diepgaande kennis van dbt (data build tool) ontwerp je modulaire en onderhoudbare transformaties.

  • Storage & Performance-optimalisatie: je hebt bewezen affiniteit met het maximaliseren van de platform-performance. Dat doe je door het inzetten van de juiste Databricks compute clusters en het benutten van schaalmogelijkheden. Je bent goed op de hoogte van optimalisaties binnen Delta Lake, zoals Partitioning, Clustering, Z-Ordering en Liquid Clustering.

  • Governance & Security: het inrichten van centrale governance via Unity Catalog kent voor jou geen geheimen. Je implementeert RBAC (Role-Based Access Control) en je hanteert data security best practices als standaard bij de bouw van oplossingen.

  • Platform & Deployment: je zet maximaal in op automatisering en 'Engineering Excellence' via Databricks Asset Bundles (DABs) voor betrouwbare en reproduceerbare deployments. Daarnaast ben je vaardig in het instrumenteren, monitoren en debuggen van Databricks jobs, pijplijnen en plat form componenten.

  • Backend & SQL/Postgres (pre): Met Django ontwikkel je API's, implementeer je authenticatie en zorg je voor betrouwbare koppelingen met data bases, waaronder Postgres.

  • Monitoring & MLOps (pre): Je zorgt voor goede monitoring en logging (Application Insights, Databricks metrics) en hebt idealiter ervaring met MLOps (model lifecycle management).

  • Kennisdeling en ontwikkeling: Je hebt ervaring in het opleiden van interne medewerkers, waarbij je kennis overdraagt en aantoonbaar de expertise van teamleden verhoogt.

  • Je hebt minimaal 4 jaar ervaring met Cloud data platforms op Microsoft Azure met Databricks.

  • Je hebt minimaal 3 jaar ervaring in het ontwerpen en realiseren van dataplatformen, datapijplijnen met Kubernetes.

  • Je hebt minimaal 3 jaar ervaring in het ontwerpen en uitwerken van een technische data solution architectuur, met aandacht voor Governance Security.

  • Je hebt minimaal 3 jaar ervaring in het ontwikkelen van datapijplijnen met PySpark en SQL.

  • Je hebt kennis van en ervaring met Microsoft Azure, in het bijzonder Databricks, Storage, Active Directory en Key Vault

  • Je hebt binnen één of meerdere opdrachten de verantwoordelijkheid gedragen voor de resalisatie van (een significant deel van) een data-platform, waarbij hij of zij betrokken is geweest vanaf de start van het traject tot en met de implementatie en oplevering van de oplossing.

  • Je hebt kennis van en ervaring met het naar productie brengen van modellen en deze te beheren en schalen met Azure, Kubernetes, Databricks.

  • Je werkt volgens best practices (CI/CD, testing, versioning, IaC).

  • Je bent in staat om collega's/teamleden te laten groeien in data-engineering vaardigheden.

  • Analyseren

  • Klantgerichtheid

  • Omgevingsbewustzijn

  • Plannen en organiseren

  • Resultaatgerichtheid

  • Samenwerken

  • Voortgangscontrole

  • Zelfontwikkeling

  • Resultaatgericht in samenwerking

About the company

Je komt te werken binnen het Programma AI van RVO, waarbij je bijdraagt aan de doelstelling om opschaling te doen van bestaande data AI oplossingen, medewerkers worden opgeleid en er geëxperimenteerd wordt met nieuwe toepassingen en technologieën. Een duurzame, economisch sterke samenleving: daar werken we aan bij de Rijksdienst voor Ondernemend Nederland (RVO). Met nationale en internationale programma's, van de energietransitie en voedselproductie tot ontwikkelingsprojecten in Afrika. Met voorlichting, advies, financiering, subsidies en hulp bij het vinden van zaken- of kennispartners. Door slim organiseren en maximaal gebruik van digitale communicatie zorgen we voor een soepele en optimale dienstverlening. Door elkaar op te zoeken en verbindingen te leggen bieden we nieuwe inzichten en mogelijkheden. Voor en achter de schermen zetten 6000 mensen zich in voor een economisch sterk, innovatief en duurzaam Nederland, op verschillende vestigingen in Nederland. Ook voor jou zijn er kansen! Onze adviseurs weten als geen ander wat er nodig is om ondernemende Nederlanders vooruit te helpen. Beoordelaars nemen subsidie- en andere verzoeken onder de loep en helpen de aanvragers om nieuwe stappen te zetten. Inkopers benutten de inkoopkracht van de Rijks overheid, ook om maatschappelijke doelen te bereiken. De medewerkers van de frontoffice staan iedereen te woord die vragen heeft. Functioneel beheerders ontwikkelen en onderhouden digitale loketten. Projectmanagers onderzoeken wat de mogelijkheden van big data zijn. Juristen zorgen dat we ons houden aan wet- en regelgeving. En communicatieadviseurs ontwikkelen toegankelijke websites voor voorlichting en advies. Wie ondernemend Nederland een warm hart toedraagt, kan bij onze organisatie dus alle kanten op. Klik hieronder voor het bekijken van de video van RVO. https://www.youtube.com/watch?v=pzcK1a_SVUM

Apply for this position