Le bureau des impôts néerlandais écope d’une amende record pour utilisation de données personnelles
L’autorité néerlandaise chargée de la protection des données, la DDPA, a infligé une amende de 3,7 millions d’euros au bureau national des impôts pour son utilisation des données personnelles, dans une affaire qui pourrait avoir des répercussions sur l’utilisation des algorithmes et de l’intelligence artificielle (IA) dans le profilage social.
L’affaire porte sur l’utilisation d’algorithmes par l’administration fiscale et douanière (TCA) pour réduire les paiements frauduleux de l’aide sociale à l’enfance.
Il a été révélé en 2018 que les autorités fiscales des Pays-Bas avaient utilisé un algorithme pour créer des profils de risque des utilisateurs demandant des allocations familiales.
Dans le but de réduire la fraude, l’algorithme a été utilisé pour créer une liste noire, ou dispositif de signalisation des fraudes (FSV), qui a servi à infliger des pénalités aux familles sur la base d’indicateurs de risque.
En conséquence, des dizaines de milliers de familles, dont beaucoup avaient de faibles revenus ou appartenaient à des minorités ethniques, ont été frappées de lourdes pénalités, sur la base d’une fausse suspicion de fraude.
L’affaire est devenue un scandale national, désigné sous le nom de « toeslagenaffaire », ou scandale des allocations familiales. Les retombées politiques ont également conduit à la démission du gouvernement précédent, en janvier 2021.
La DDPA a imposé une amende de 2,75 millions d’euros au bureau des impôts en 2021, pour « pratiques discriminatoires ».
Toutefois, elle vient d’infliger une nouvelle amende au bureau des impôts pour avoir enfreint le règlement général sur la protection des données.
Selon la DDPA, les données étaient souvent collectées sans fondement juridique approprié, les données personnelles étaient souvent erronées et des mesures n’étaient pas prises pour protéger la liste.
Le président de l’autorité, Aleid Wolfsen, a déclaré : « Avec la FSV, l’administration fiscale et douanière a violé les droits des 270 000 personnes figurant sur cette liste d’une manière sans précédent.
« Pendant plus de six ans, des personnes ont souvent été étiquetées à tort comme des fraudeurs, avec des conséquences désastreuses. Si vous étiez inscrit au FSV, certains ne bénéficient pas d’un arrangement de paiement ou n’ont pas droit à une restructuration de leur dette. Les autorités fiscales ont mis des vies sens dessus dessous avec le FSV », a déclaré Wolfsen.
Selon la DDPA, les employés des bureaux des impôts ont reçu pour instruction de fonder le risque de fraude en partie sur la nationalité et l’apparence des personnes.
« Avez-vous la nationalité turque, marocaine ou d’Europe de l’Est ? Dans ce cas, vous feriez l’objet d’un examen supplémentaire, sans raison valable, en raison de cette nationalité. Cette discrimination est inacceptable », a déclaré M. Wolfsen.
Cette affaire a suscité des inquiétudes quant à l’utilisation de l’IA et des algorithmes pour le profilage social. L’Union européenne a tenté d’y remédier par le biais d’une nouvelle loi qui vise à promouvoir l’utilisation éthique de l’IA.
Le projet de loi a été introduit en avril de l’année dernière, dans le but de favoriser la confiance des citoyens de l’UE dans la manière dont la technologie de l’IA est mise en œuvre.
« Aujourd’hui, nous voulons faire de l’Europe un exemple mondiale dans le développement d’une IA sûre, digne de confiance et centrée sur l’humain, et dans l’utilisation de celle-ci », a déclaré Margrethe Vestager, vice-présidente exécutive de la Commission européenne, lors de l’annonce du projet de loi l’année dernière.
