Het gebruik van gezichtsherkenning om personen in grote groepen mensen te identificeren brengt verschillende risico's met zich mee, waaronder de dreiging van 'function creep', zo stelt Wojciech Wiewiorowski, de Europese Toezichthouder voor gegevensbescherming (EDPS).
De EDPS organiseerde onlangs een workshop over de uitdagingen en kansen van kunstmatige intelligentie en gezichtsherkenning. Volgens Wiewiorowski kan kunstmatige intelligentie gezichtsherkenning versterken en zo nieuwe mogelijkheden en risico's introduceren. Daarbij moet er ook een verschil worden gemaakt tussen gezichtsherkenning om bijvoorbeeld een telefoon te ontgrendelen of het identificeren van personen in openbare ruimtes.
Wiewiorowski waarschuwt dat als de infrastructuur eenmaal aanwezig is, gezichtsherkenningstechnologie ook eenvoudig voor allerlei andere doeleinden is te gebruiken die de privacy onder druk zetten, wat ook wel "function creep" wordt genoemd. Daarnaast kunnen slechte datasets voor gezichtsherkenning tot discriminatie leiden. Tijdens het debat kwamen deelnemers overeen dat het verbieden of tijdelijk bevriezen van bepaalde technologieën, wanneer de impact op de samenleving en vrijheid van het individu onzeker is, als voorzorgsmaatregel moet worden overwogen.
"Hoewel technologie niet alle maatschappelijke problemen kan oplossen, zou het ze ook niet moeten verergeren. Kunstmatige intelligentie moet worden gebruikt om ons leven, individueel en als samenleving te verbeteren, maar een dergelijke verbetering zou nooit ten koste van onze waarden en fundamentele rechten mogen gaan", laat Wiewiorowski weten.
Hij stelt dat er dan ook goed moet worden gekeken welke problemen we met technologie willen oplossen, of er problemen zijn die niet met technologie zijn te verhelpen en welke nieuwe problemen technologie kan veroorzaken. De EDPS zal de uitkomsten van de workshop gebruiken voor het opstellen van een strategie over de ontwikkeling van nieuwe technologieën en hun mogelijke impact op fundamentele rechten.
Deze posting is gelocked. Reageren is niet meer mogelijk.