image

Privacytoezichthouder: function creep dreigt bij gezichtsherkenning

maandag 24 februari 2020, 10:39 door Redactie, 10 reacties

Het gebruik van gezichtsherkenning om personen in grote groepen mensen te identificeren brengt verschillende risico's met zich mee, waaronder de dreiging van 'function creep', zo stelt Wojciech Wiewiorowski, de Europese Toezichthouder voor gegevensbescherming (EDPS).

De EDPS organiseerde onlangs een workshop over de uitdagingen en kansen van kunstmatige intelligentie en gezichtsherkenning. Volgens Wiewiorowski kan kunstmatige intelligentie gezichtsherkenning versterken en zo nieuwe mogelijkheden en risico's introduceren. Daarbij moet er ook een verschil worden gemaakt tussen gezichtsherkenning om bijvoorbeeld een telefoon te ontgrendelen of het identificeren van personen in openbare ruimtes.

Wiewiorowski waarschuwt dat als de infrastructuur eenmaal aanwezig is, gezichtsherkenningstechnologie ook eenvoudig voor allerlei andere doeleinden is te gebruiken die de privacy onder druk zetten, wat ook wel "function creep" wordt genoemd. Daarnaast kunnen slechte datasets voor gezichtsherkenning tot discriminatie leiden. Tijdens het debat kwamen deelnemers overeen dat het verbieden of tijdelijk bevriezen van bepaalde technologieën, wanneer de impact op de samenleving en vrijheid van het individu onzeker is, als voorzorgsmaatregel moet worden overwogen.

"Hoewel technologie niet alle maatschappelijke problemen kan oplossen, zou het ze ook niet moeten verergeren. Kunstmatige intelligentie moet worden gebruikt om ons leven, individueel en als samenleving te verbeteren, maar een dergelijke verbetering zou nooit ten koste van onze waarden en fundamentele rechten mogen gaan", laat Wiewiorowski weten.

Hij stelt dat er dan ook goed moet worden gekeken welke problemen we met technologie willen oplossen, of er problemen zijn die niet met technologie zijn te verhelpen en welke nieuwe problemen technologie kan veroorzaken. De EDPS zal de uitkomsten van de workshop gebruiken voor het opstellen van een strategie over de ontwikkeling van nieuwe technologieën en hun mogelijke impact op fundamentele rechten.

Reacties (10)
24-02-2020, 11:02 door Anoniem
``[...] maar een dergelijke verbetering zou nooit ten koste van onze waarden en fundamentele rechten mogen gaan''
Dit is nog een interessante uitspraak. Want wat zijn die waarden en fundamentele rechten?

Die waarden lijken nogal eens anders te zijn in Brussel dan daarbuiten, en die rechten blijken nogal eens lastig te doen gelden voor niet-beroeps-Brusselaars.
24-02-2020, 11:38 door Briolet
wat ook wel "function creep"

Wat gewoon een ander woord is voor technologische vooruitgang.


Zonder 'function creep' hadden auto's geen wielen. Dankzij de 'function creep' bij het gebruik van ronde balken om zware lasten te verplaatsen, is men dit principe ook bij andere zaken gaan gebruiken.
24-02-2020, 11:51 door SPer
Door Briolet:
wat ook wel "function creep"

Wat gewoon een ander woord is voor technologische vooruitgang.


Zonder 'function creep' hadden auto's geen wielen. Dankzij de 'function creep' bij het gebruik van ronde balken om zware lasten te verplaatsen, is men dit principe ook bij andere zaken gaan gebruiken.
function creep :
noun. the gradual widening of the use of a technology or system beyond the purpose for which it was originally intended, esp when this leads to potential invasion of privacy.

Als ik uw reactie leest lijkt het wel dat u de alter-ego bent van Karma4 die het toch ook niet zo hoog ophad met privacy.
24-02-2020, 14:30 door Anoniem
Door SPer:
Door Briolet:
wat ook wel "function creep"

Wat gewoon een ander woord is voor technologische vooruitgang.


Zonder 'function creep' hadden auto's geen wielen. Dankzij de 'function creep' bij het gebruik van ronde balken om zware lasten te verplaatsen, is men dit principe ook bij andere zaken gaan gebruiken.
function creep :
noun. the gradual widening of the use of a technology or system beyond the purpose for which it was originally intended, esp when this leads to potential invasion of privacy.

Als ik uw reactie leest lijkt het wel dat u de alter-ego bent van Karma4 die het toch ook niet zo hoog ophad met privacy.

Tja niet voor niets:

Human stupidity is more dangerous than artificial intelligence...
24-02-2020, 14:46 door Anoniem
Door Briolet:
wat ook wel "function creep"

Wat gewoon een ander woord is voor technologische vooruitgang.


Zonder 'function creep' hadden auto's geen wielen. Dankzij de 'function creep' bij het gebruik van ronde balken om zware lasten te verplaatsen, is men dit principe ook bij andere zaken gaan gebruiken.

Ook een voorbeeld van "function creep" is dat je fietsen gebruikt om naar elkaar te smijten.
"Function creep" is altijd opportuun en helaas niet altijd een vooruitgang.
24-02-2020, 16:16 door Anoniem
"Creep" impliceert een zekere mate van onbedoeld of onbeheersbaar. Ik maak mij eerder zorgen over het welbedoeld en nog steeds onbeheersbaar.
24-02-2020, 17:30 door karma4
Door SPer:
Als ik uw reactie leest lijkt het wel dat u de alter-ego bent van Karma4 die het toch ook niet zo hoog ophad met privacy.
Nee ik was het niet.
Ik heb het niet zo hoog zitten mst grorbewoners, denk aan dat klassieke verhaal over wat je keuzes zijn als je meer ziet.
Ik heb het hoog op met privacy maar niet met fake pdivacy.

He eenvoudig als het anoniem blijven voirbehouden is aan criminelen oplichters etc dan ben je bezig de privacg te schenden.
Ik snap ook niet dat privacyvoorvechters een sleepnet willen dat ingevuld wordt door het ap.
24-02-2020, 20:57 door [Account Verwijderd] - Bijgewerkt: 24-02-2020, 20:59
In deze tijd van bijna exponentiële technologische vooruitgang ware het beter:
"goed te kijken welke problemen we niet met technologie willen oplossen".
Dat beperkt de overspannen kritiek op zaken die beter met hulp van - dus niet solitair met - technologie opgelost moeten gaan worden omdat in toenemende mate de resources ontbreken om dat zonder technologische hulpmiddelen te doen. Telkens lees je weer - waar rook is is vaak ook vuur - dat Nederland in een 'onhandhaafbare' toestand aan het verglijden is.
Lees onderstaande nieuwsberichten (chronologisch oplopende volgorde) eens door en verbaas je alleen al over de contradicties die bijgevolg zijn aan de spagaat waarin de overheid onze samenleving voor iedereen veilig wil/moet houden m.b.t. drugsproduktie gerelateerde misdaad:

https://nos.nl/artikel/2218443-nederland-narcostaat-de-rode-loper-ligt-uit-voor-drugscriminelen.html
https://nos.nl/artikel/2218433-grapperhaus-nederland-is-geen-narcostaat.html
https://www.telegraaf.nl/nieuws/1289796173/grapperhaus-nederland-dreigt-narcostaat-te-worden
https://www.nrc.nl/nieuws/2018/08/29/nederland-is-een-narcostaat-a1614508
25-02-2020, 09:33 door Anoniem
Door Briolet:
wat ook wel "function creep"

Wat gewoon een ander woord is voor technologische vooruitgang.


Zonder 'function creep' hadden auto's geen wielen. Dankzij de 'function creep' bij het gebruik van ronde balken om zware lasten te verplaatsen, is men dit principe ook bij andere zaken gaan gebruiken.

We spreken elkaar nog wel wanneer - geheel naar aanleiding van een of ander incident natuurlijk - politieke manifestaties van je beweging naar keuze onder het vergrootglas van gezichtsherkenning zijn beland.

De kikkervijver wenste een Koning. Toen zij hun vergissing inzagen en Koning Reiger smeekten weg te gaan, antwoorde deze: "Zijn jullie niet tevreden? Jullie hebben gekregen waar je om gevraagd had."
27-02-2020, 07:31 door Anoniem
Bijzonder... als je kijkt naar PSD2 .... beschermen burger en alleen als jezelf toestemming geeft. Lachwekkend. Als ik die niet mee wil doen aan PSD2 iemand betaal die dat wel wil...wat dacht je dat er met jou info gebeurd.... precies.

Alles wordt bezien vanuit making money. Ook dit. Privacy is belangrijk totdat er veel aan verdiend kan worden.

Dus pas op laat je met mooie verhalen afschepen.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.