Europese privacytoezichthouders willen dat er een verbod komt op het gebruik van kunstmatige intelligentie voor automatische gezichtsherkenning in openbare ruimtes. Dat stellen de Europese Toezichthouder voor gegevensbescherming (EDPS) en het Europees Comité voor gegevensbescherming (EDPB) in een reactie op een wetsvoorstel van de Europese Commissie over artificiële intelligentie (AI). De EDPB is een orgaan waarin alle nationale privacytoezichthouders uit de Europese Unie samenwerken bij hun toezicht op de Algemene verordening gegevensbescherming (AVG).

Vanwege de grote risico's van biometrische identificatie van personen in openbare ruimtes pleiten de EDPB en EDPS voor een algeheel verbod op het gebruik van kunstmatige intelligentie voor het geautomatiseerd herkennen van menselijke eigenschappen in openbare ruimtes, zoals herkenning van gezichten, manier van lopen, vingerafdrukken, dna, stem, toetsaanslagen en andere biometrische of gedragssignalen, in welke context dan ook.

Tevens pleiten de toezichthouders voor een verbod van AI-systemen die van biometrie gebruikmaken om individuen op basis van etniciteit, geslacht, politieke of seksuele voorkeur of andere gronden te groeperen, omdat dit discriminatie in de hand kan werken. Daarnaast wordt gepleit voor een verbod op AI die emoties herkent. "Aan emotieherkenning kunnen grote risico’s zitten voor de vrijheid van burgers", zo laat de Autoriteit Persoonsgegevens weten.

"Denk aan werkgevers die werknemers een slechte beoordeling geven als zij te vaak ‘boos’ kijken terwijl ze achter hun computer zitten, werknemers die moeten glimlachen om toegang tot de werkplek te krijgen, of politie die uit voorzorg mensen staande houdt die volgens het systeem ‘boos’ of ‘ontevreden’ zijn terwijl zij op straat lopen", aldus de privacytoezichthouder.

Surveillancemaatschappij

"Een camera met gezichtsherkenning ziet niet alleen wat je doet, maar die identificeert jou meteen ook. Die ziet meteen wie je bént", zegt Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens (AP) en vicevoorzitter van de EDPB. Wolfsen waarschuwt dat met elke opgehangen camera met gezichtsherkenning op straat, in het park, de trein of de bus, een surveillancemaatschappij dichterbij komt.

"Een maatschappij waarin je nooit meer ongedwongen over straat loopt. Waarin je niet kunt ontsnappen aan de priemende ogen van systemen die jou in de gaten houden en jou herkennen, dus jou de hele dag kunnen volgen. Je stapt de deur uit en weet: ik word constant in de gaten gehouden. Dat is beklemmend, zorgt dat mensen zich minder vrij voelen om zichzelf te zijn", laat de AP-voorzitter weten.

Volgens de toezichthouders zijn veel regels in het voorstel van de Europese Commissie nog onvoldoende duidelijk. Daarnaast moet de wet goed aansluiten op de AVG. Zo staan in het huidige voorstel andere definities van sommige begrippen dan in de AVG en verschillen de procedures die bedrijven moeten doorlopen. Hierdoor kan verwarring ontstaan en wordt het lastiger voor bedrijven en organisaties om aan de wet te voldoen.