Amnesty International en veertien andere organisaties willen dat de Franse overheid stopt met het gebruik van een risicoscore-algoritme voor het tegengaan van toeslagenfraude. Om hiervoor te zorgen is een klacht bij de Franse Raad van State ingediend. Het Franse Caisse Nationale des Allocations Familiales (CNAF) is verantwoordelijk voor het uitkeren van toeslagen. In Frankrijk leven 32 miljoen mensen in een huishouden dat één of meerdere toeslagen ontvangt.

Sinds 2010 gebruikt CNAF een risicoscore-algoritme om mensen op te sporen die mogelijk toeslagenfraude plegen. Het algoritme kent aan alle ontvangers van gezins- en huurtoeslagen een risicoscore toe tussen nul en één. Hoe dichter de score bij één ligt, hoe groter de kans dat iemand wordt aangemerkt voor onderzoek. De persoonlijke gegevens van mensen die toeslagen ontvangen, alsmede hun gezinsleden, worden periodiek verwerkt, waarna een risicoscore wordt toegekend.

Volgens Amnesty is het algoritme discriminatoir en maakt het inbreuk op het recht op privacy en gelijkwaardigheid. Vorig jaar kreeg de digitale rechtenbeweging La Quadrature du Net (LQDN) de broncode van het algoritme in handen, wat de discriminatoire aard van het systeem aantoonde, aldus Amnesty.

"Naarmate sociale diensten dergelijke scoringsalgoritmen vaker gebruiken, heeft onze coalitie, die organisaties uit diverse achtergronden samenbrengt, als doel een collectief front te vormen om dit soort praktijken te verbieden en bewustzijn te creëren over het geweld dat het zogenaamde "sociale fraudepreventie"-beleid met zich meebrengt", stelt LQDN.