Nederlandse belastingdienst krijgt recordboete voor gebruik persoonsgegevens

De Nederlandse gegevensbeschermingsautoriteit Autoriteit Persoonsgegevens (AP) heeft een boete van 3,7 miljoen euro opgelegd aan de nationale belastingdienst voor het gebruik van persoonsgegevens, in een zaak die gevolgen kan hebben voor het gebruik van algoritmen en kunstmatige intelligentie (AI) bij sociale profilering.

De zaak draait om het gebruik van algoritmen door de Belastingdienst voor het terugdringen van frauduleuze betalingen van kinderopvangtoeslag.

In 2018 kwam aan het licht dat de Belastingdienst in Nederland een zelflerend algoritme had gebruikt om risicoprofielen op te stellen van gebruikers die een kinderopvangtoeslag aanvroegen.

In een poging om fraude terug te dringen werd het algoritme gebruikt om een zwarte lijst of Fraudesignaleringsfaciliteit (FSV) op te stellen, die werd gebruikt om op basis van risico-indicatoren sancties aan gezinnen op te leggen.

Hierdoor werden tienduizenden gezinnen, waarvan velen een laag inkomen hadden of tot een etnische minderheid behoorden, op grond van een valse verdenking van fraude met hoge boetes geconfronteerd.

De zaak, die al snel bekend stond als de “toeslagenaffaire”, werd een nationaal schandaal. De politieke gevolgen leidden ook tot het aftreden van de vorige regering in januari 2021.

De AP legde de Belastingdienst al in 2021 een boete van 2,75 miljoen euro op voor wat zij als discriminerende praktijken bestempelde.

Zij heeft de Belastingdienst nu echter opnieuw een boete opgelegd wegens overtreding van de regels van de Algemene Verordening Gegevensbescherming (AVG).

Volgens de AP werden gegevens vaak zonder deugdelijke rechtsgrondslag verzameld, waren de persoonsgegevens vaak onjuist en werden er geen maatregelen genomen om de lijst afdoende te beschermen.

De voorzitter van de autoriteit, Aleid Wolfsen, zei: “Met de FSV heeft de Belastingdienst de rechten van de 270.000 mensen op die lijst op een ongekende manier geschonden.

Meer dan zes jaar lang werden mensen vaak ten onrechte als fraudeurs bestempeld, met alle nare gevolgen van dien. Als u in de FSV was ingeschreven, kan het zijn dat u geen betalingsregeling hebt gekregen of niet in aanmerking kwam voor schuldsanering. Met de FSV heeft de fiscus levens op z’n kop gezet”, aldus Wolfsen.

Volgens de AP kregen de medewerkers van de Belastingdienst instructies om het frauderisico deels te baseren op de nationaliteit en het uiterlijk van mensen.

“Heeft u de Turkse, Marokkaanse of Oost-Europese nationaliteit? Dan zou u verder onderzocht worden, zonder goede reden, enkel en alleen vanwege die nationaliteit. Deze discriminatie is onaanvaardbaar”, aldus Wolfsen.

De zaak heeft bezorgdheid gewekt over het gebruik van AI en algoritmen voor sociale profilering. De EU heeft getracht hier iets aan te doen door middel van haar nieuwe AI-wet, die voorziet in een op risico gebaseerd kader ter bevordering van het ethisch gebruik van AI.

Het wetsontwerp is in april vorig jaar ingediend met als doel het vertrouwen van de EU-burgers in de toepassing van AI-technologie te bevorderen.

“Vandaag willen we Europa naar de wereldtop brengen waar het gaat om de ontwikkeling van veilige, betrouwbare en mensgerichte AI en het gebruik ervan”, zei uitvoerend vicevoorzitter van de Europese Commissie Margrethe Vestager vorig jaar bij de aankondiging van het wetsontwerp.