Een voorlopig akkoord over de Europese AI-wet maakt het mogelijk voor politie en opsporingsdiensten om live gezichtsherkenning in openbare ruimtes in te zetten. Mensenrechtenorganisatie Amnesty International spreekt van groen licht voor 'dystopische digitale surveillance' in de 27 EU-lidstaten.

Het Europees Parlement, de Europese Commissie en de EU-lidstaten zijn na een moeizaam onderhandelingsproces gekomen tot een voorlopig akkoord over de Artificial Intelligence Act, die regels stelt aan het gebruik van kunstmatige intelligentie. Eén van de onderdelen betreft het gebruik van live gezichtsherkenning door justitie. Het Europees Parlement stemde eerder nog voor een volledig verbod op real-time gezichtsherkenning, zonder uitzonderingen.

In de onderhandelingen met de EU-landen heeft het Europees Parlement de eerder ingenomen positie prijsgegeven en is akkoord gegaan met uitzonderingen voor opsporingsdiensten. Daarbij claimen de EU-beleidsmakers dat de inzet van de technologie is omgeven met waarborgen. Amnesty stelt op basis van eigen onderzoek dat waarborgen de mensenrechtenschendingen die door gezichtsherkenning plaatsvinden niet kunnen voorkomen. "Daarom is een totaalverbod nodig."

De uitzonderingen die worden genoemd betreffen het zoeken van mensen die worden vermist of slachtoffer van mensenhandel of seksueel misbruik zijn. Het voorkomen van een 'specifieke en actuele' terroristische dreiging of het vinden van de locatie of het identificeren van personen die worden verdacht van misdrijven, waaronder terrorisme, mensenhandel, seksueel misbruik, moord, kidnapping, verkrachting, gewapende overvallen, deelname aan een criminele organisatie en milieudelicten.

"De drie Europese instellingen - Commissie, Raad en Parlement - hebben in feit dystopische digitale surveillacne in 27 EU-lidstaten goedgekeurd, en een vernietigend precedent geschapen voor AI-wetgeving wereldwijd", zegt Mher Hakobyan van Amnesty International. Volgens Hakobyan is het teleurstellend om te zien dat het Europees Parlement onder druk van de EU-lidstaten door de knieën is gegaan.

Een ander kritiekpunt van Amnesty richt zich op het niet verbieden van de export van schadelijke AI-technologieën, waaronder voor het opzetten van sociale kredietscoringssystemen. Dergelijke systemen zijn in de EU verboden, maar mogen wel door Europese bedrijven worden geëxporteerd. Het akkoord moet nog wel worden goedgekeurd door alle EU-lidstaten en het hele Europees Parlement. De wet treedt na twee jaar in werking.