Nu de Europese Unie de ethiek van kunstmatige intelligentie bespreekt moet het ook bepalen of gezichtsherkenning in een democratische samenleving kan worden toegestaan, zo stelt adjunct European Data Protection Supervisor (EDPS) Wojciech Wiewiorowski in een vandaag verschenen blog.

De EDPS is de privacytoezichthouder van de EU. De organisatie werd geleid door Giovanni Buttarelli die afgelopen augustus overleed. Wiewiorowski neemt tot het einde van dit jaar de taken van Buttarelli waar. Volgens de adjunct-EDPS spelen er allerlei privacy- en databeschermingsonderwerpen als het om gezichtsherkenning gaat. Zo verbiedt de Algemene verordening gegevensbescherming (AVG) het verwerken van biometrische gegevens, tenzij er aan één van de tien uitzonderingen wordt voldaan. Daarnaast moet de noodzakelijkheid om de technologie in te zetten worden aangetoond.

Wiewiorowski ziet ook problemen als het gaat om aansprakelijkheid en transparantie. "De uitrol van deze technologie wordt gekenmerkt door obscuriteit. We weten gewoon niet hoe de data wordt gebruikt door degenen die het verzamelen, wie er toegang toe heeft, naar wie het wordt gestuurd, hoelang ze het bewaren, hoe er een profiel van wordt gemaakt en wie uiteindelijk voor de geautomatiseerde beslissingen verantwoordelijk is."

De adjunct-EDPS stelt dat het bijna onmogelijk is om de herkomst van de invoerdata te achterhalen, aangezien gezichtsherkenningssystemen door allerlei afbeeldingen worden gevoed, afkomstig van internet en social media zonder dat mensen hier toestemming voor hebben gegeven. Daarnaast kan iedereen slachtoffer worden van het algoritme en worden gecategoriseerd, gaat Wiewiorowski verder.

Verder heeft hij twijfels over de compliance van de technologie met principes zoals dataminimalisatie en databescherming by design. "Gezichtsherkenning is nooit echt nauwkeurig geweest en dit heeft ernstige gevolgen voor personen die ten onrechte als crimineel of anders worden geïdentificeerd", merkt de adjunct-EDPS op. "In werkelijkheid is er nooit genoeg data om vooroordelen en het risico van false positives of false negatives te elimineren."

Niet bestaand probleem

Wiewiorowski vindt dat voorstanders gezichtsherkenning promoten als een oplossing voor een niet bestaand probleem. Daarom zouden verschillende landen het gebruik van de technologie inmiddels aan banden hebben gelegd. "We moeten niet alleen de technologie op zijn eigen merites beoordelen, maar ook de waarschijnlijke richting die het opgaat als het meer en meer wordt uitgerold. De volgende stap is de druk om andere vormen van objectificatie van het menselijk wezen uit te rollen, zoals zijn manier van lopen, emoties en hersengolven."

Binnen de EU is er nu een discussie gaande over de ethiek van kunstmatige intelligentie en de noodzaak van regels. Volgens Wiewiorowski is dit dan ook het moment om te bepalen of gezichtsherkenning in een democratische samenleving kan worden toegestaan. "Als het antwoord ja is, alleen dan stellen we pas de vragen over hoe beschermingsmaatregelen en aansprakelijkheid moeten worden geregeld." De onafhankelijke privacytoezichthouders in de EU-landen zullen zich proactief met deze discussie gaan bemoeien, besluit Wiewiorowski.