Referentie: HLS-V19867
Centrale bank in amsterdam
klant is bezig met de migratie van alle ETLprocessen voor het datalandschap vanuit SAS naar Synapse. Van ieder proces wordt bekeken of het nog nodig is
en hoe het wordt overgezet, al dan niet gecombineerd met andere processen. Ieder proces krijgt een eigen Python-package met daarin de nodige ETL in Pyspark. Het periodiek draaien van het package vindt plaats in Synapse.
De data engineer werkt in eerste plaats mee aan het overzetten van de processen. Dit varieert van eenvoudig tot complex.Daarnaast kan de data engineer bijdragen aan de hele infrastructuur rondom het nieuwe
datalandschap.
als data engineer ben je primair verantwoordelijk voor het ontwikkelen van de aan jou toegekende processen volgens de vastgestelde formats.
Daarbij vragen we van je om mee te denken over de beste oplossing gegeven de functionele wens van ieder proces.
Eisen:
• Minimaal 3 jaar ervaring met ontwikkeling in Python: het maken van Pythonpackages inclusief Pytests.
• Minimaal 3 jaar ervaring met ontwikkeling in Pyspark
• Minimaal 2 jaar ervaring met Azure
Wensen:
Ervaring met Synapse
Ervaring en kennis van DevOps
Ervaring met SQL
Ervaring met Fabric en/of Databricks
kennis/opleiding:
Eisen:
• Tenminste HBO werkniveau
• Uitstekende communicatieve vaardigheden in zowel het Nederlands en Engels.