Deloitte bouwde risicomodellen met nationaliteit als vast gegevensveld

Samenvatting

Op 3 juni 2013 bespraken medewerkers van de Belastingdienst/Toeslagen met Deloitte-adviseurs de voortgang van geautomatiseerde risicoclassificatiemodellen voor kinderopvangtoeslag (KOT) en huurtoeslag (HT). Het verslag toont aan dat “BVR Nationaliteit” een standaard gegevensveld was in de SAS-gebaseerde modellen. De modellen werden getraind met slechts 200 voorbeelden, terwijl een productierun stond gepland voor 2 augustus 2013. Persoonsgegevens stonden op onbeveiligde gedeelde netwerkschijven en de Belastingdienst was structureel afhankelijk van Deloitte.

Wat er gebeurde

De Belastingdienst/Toeslagen liet Deloitte geautomatiseerde risicoclassificatiemodellen bouwen in SAS voor kinderopvang- en huurtoeslag. Twee Deloitte-medewerkers werkten op locatie aan de bouw en het beheer van de modellen. Het overleg van 3 juni 2013 betrof de voorbereiding van de geplande “run” van 2 augustus 2013.

De modellen werkten met drie lagen: brondata, halfproducten en het eindmodel, allen opgeslagen op de VEPROW52-server. De brondata omvatte meer dan twintig databronnen, waaronder “BVR Nationaliteit” als vast onderdeel. Dit bevestigt dat discriminatie niet ad-hoc plaatsvond maar systeemtechnisch was verankerd.

Bewijs

• BVR Nationaliteit als vaste brondata: Nationaliteit was een structureel gegevensveld in de datapijplijn naast postcodes, BAG-registraties en blacklists
• Meerdere discriminerende databronnen: BVR NAW (naam/adres/woonplaats), BVR 07/09, BVR Bewoning en BVR BSN Leeftijd voedden allen de modellen
• IP-adressen als geplande indicator: Profilering op digitaal gedrag met hoog risico op fout-positieven
• Onvoldoende trainingsdata: Slechts 100 “goed” en 100 “fout” voorbeelden — statistisch onvoldoende voor betrouwbare voorspelling
• Bewustzijn van onbetrouwbaarheid: Het verslag stelt expliciet dat onvoldoende dossiers weerslag heeft op de scoring
• Onbeveiligde opslag: Persoonsgegevens op VEPROW52 met onduidelijke toegangsrechten; verplichte maandelijkse opruiming werd niet structureel uitgevoerd
• Externe afhankelijkheid: Deloitte bouwde, trainde en beheerde de modellen; interne eigenaarschap werd pas weken voor de run overgedragen

Analyse

Dit document levert het technisch bewijs dat de discriminerende praktijken geen incidenten waren maar het resultaat van bewust ontworpen systemen. De inbedding van nationaliteit in de datapijplijn betekent dat elke beslissing die door deze modellen werd verwerkt potentieel beïnvloed werd door nationaliteit.

Het trainen met slechts 200 voorbeelden voor een model dat duizenden burgers raakt is een fundamentele wetenschappelijke tekortkoming. De combinatie van vertekende invoerdata met onvoldoende training leidt tot een versterkend bias-effect dat bepaalde bevolkingsgroepen systematisch benadeelt.

De rol van Deloitte roept serieuze vragen op over de aansprakelijkheid van private partijen. Als ontwerper en beheerder van deze modellen had Deloitte een zorgplicht om discriminerende data-inputs en onvoldoende training te signaleren.

Bronnen

• Belastingdienst/Toeslagen, zaaknummer 1871530, document 00281 — Verslag overleg risicoclassificatie 3 juni 2013
• Rapport 9 — Onderzoek Toeslagenaffaire in het Algemeen Belang, 19 april 2026
• Kruisverwijzingen: Rapport 4 (Inspectierapport 2021), Rapport 6 (FSV Stuurgroep), Rapport 8 (PwC Werkdocument FSV-Effecten)