Burgerrechtenbeweging Bits of Freedom (BoF) hekelt de AI-verordening die door het Europees Parlement is aangenomen. Het gaat onder andere om de uitzonderingen die in het kader van 'nationale veiligheid' gemaakt kunnen worden, terwijl niet duidelijk is wat hieronder valt. Dit zorgt voor een enorme maas in de wet, aldus Nadia Benaissa, beleidsadviseur van Bits of Freedom.

Afgelopen maart stemde het Europees Parlement al in met een niet vertaalde en door juridische experts gevalideerde versie. Gisteren werd de wel vertaalde en gevalideerde versie goedgekeurd. De AI Act verbiedt 'predictive policing', real-time biometrische identificatie in de publieke ruimte en social scoring. "In eerste instantie klinkt dit misschien goed, maar we zien hier dat de verboden behoorlijk nauw zijn geformuleerd. Dit terwijl de uitzonderingen weer heel breed zijn. Daarmee blijft er helaas nog maar weinig over van échte verboden," aldus Benaissa.

Zo mag real-time gezichtsherkenning worden ingezet voor het zoeken van mensen die worden vermist of slachtoffer van mensenhandel of seksueel misbruik zijn. Andere uitzonderingen zijn het voorkomen van een 'specifieke en actuele' terroristische dreiging of het vinden van de locatie of het identificeren van personen die worden verdacht van misdrijven, waaronder terrorisme, mensenhandel, seksueel misbruik, moord, kidnapping, verkrachting, gewapende overvallen, deelname aan een criminele organisatie en milieudelicten.

Verder worden private bedrijven niet verplicht AI-systemen die ze gebruiken te registreren. "Terwijl we nu al zien dat banken, incassobureaus en verzekeraars AI gebruiken die heel ingrijpend zijn voor mensen", gaat de BoF-beleidsadviseur verder. "Daarnaast is een groot deel van de AI-verordening alléén van toepassing als er sprake is van een hoog risico." Daar is sprake van als een AI-toepassing een significant risico oplevert voor iemands gezondheid, veiligheid of fundamentele rechten.

Tevens zijn in de wet beperkte rechtsmiddelen opgenomen als het gaat om de rechten van burgers én is er een hele brede uitzondering opgenomen voor 'nationale veiligheid'. Als een AI-toepassing in dit kader wordt ingezet geldt de AI-verordening niet. "Maar wat precies onder nationale veiligheid valt, wordt uit de wet niet duidelijk. Daarmee wordt er dus een enorme maas in de wet gecreëerd waarmee een soort 'digitale vrije zone' ontstaat", merkt Benaissa op.

"Europa had zich wat betreft de ontwikkeling en het gebruik van kunstmatige intelligentie kunnen onderscheiden van andere werelddelen. In plaats daarvan laat Europa nu zien dat de markt en economie belangrijker zijn dan de bescherming van mensenrechten", besluit Benaissa. De wet zal in verschillende fases geïmplementeerd worden, met termijnen variërend tussen zes maanden en een twee jaar.