De algoritmes die de Belastingdienst gebruikte voor het controleren van aanvragen met de kinderopvangtoeslag hebben tot etnisch profileren geleid, wat een vorm van discriminatie is en daarmee in strijd met de mensenrechten, zo stelt Amnesty International op basis van eigen onderzoek. Volgens de mensenrechtenorganisatie heeft ongereguleerd gebruik van algoritmen tot discriminatie in de toeslagenaffaire geleid.
De Belastingdienst implementeerde in 2013 een algoritmisch systeem voor de opsporing van fraude bij de kinderopvangtoeslag. Dit systeem vergeleek goede en foute aanvragen om op basis daarvan risicoprofielen van aanvragers van kinderopvangtoeslag op te stellen. Het model bestond uit meerdere risicofactoren, waaronder Nederlanderschap.
Voor elke risicofactor kreeg de aanvrager een bepaald aantal punten, wat resulteerde in een totaalscore voor elke inkomende toeslagenvraag: de risicoscore. Ouders en verzorgers met een hoge risicoscore werden door ambtenaren onderzocht. De ambtenaar kreeg geen informatie over de reden voor de hoge risicoscore, aldus Amnesty.
"Het gebruik van nationaliteit in het algoritme geeft aan dat de ontwikkelaars en/of gebruikers van het systeem veronderstelden dat mensen van een bepaalde nationaliteit meer geneigd zouden zijn om fraude te plegen dan mensen van andere nationaliteiten. Het geeft ook aan dat de belastingdienst dacht dat er een verband bestaat tussen etniciteit en criminaliteit", zo stelt de mensenrechtenorganisatie.
De Nederlandse overheid zegt maatregelen te hebben genomen om herhaling van de toeslagenaffaire te voorkomen. Amnesty analyseerde deze maatregelen en stelt dat die op alle fronten tekort schieten. "Zo zijn ambtenaren niet verplicht om de mensenrechtenrisico’s vooraf in kaart te brengen, is het toezicht op algoritmes ondermaats, en mogen overheidsinstellingen het gebruik en de werking van algoritmes geheimhouden."
Volgens Amnesty moeten overheidsinstanties bij het gebruik van algoritmische systemen de mensenrechten beschermen. Zo moeten er regels worden opgesteld die mensenrechtenschendingen bij het gebruik van dergelijke systemen voorkomen. Verder moeten overheden transparant zijn over het gebruik van algoritmes en voor de inzet van algoritmische systemen een mensenrechtentoets uitvoeren.
Daarnaast moeten regeringen monitoring- en toezichtmechanismen instellen die controleren of de regels worden nageleefd. Verder vindt Amnesty dat de personen die verantwoordelijk zijn voor schendingen ter verantwoording worden geroepen en moeten er effectieve rechtsmiddelen zijn voor de mensen en groepen van wie rechten zijn geschonden.
Deze posting is gelocked. Reageren is niet meer mogelijk.