image

Autoriteit Persoonsgegevens: wees kritisch op algoritmes

maandag 9 maart 2020, 14:26 door Redactie, 9 reacties

Organisaties die met algoritmes aan de slag willen gaan, zeker als hierbij persoonsgegevens worden verwerkt, moeten hier kritisch naar kijken. Dat stelt Aleid Wolfsen, voorzitter van de Autoriteit Persoonsgegevens. Algoritmes zijn een focusgebied van de nationale privacytoezichthouder (pdf).

"Wie de glimmende medaille van de vooruitgang durft om te draaien, ziet het complete verhaal. Want 'wat geweldig dat dit kan' en 'bloedlink wat hier gebeurt' komen hier akelig dicht bij elkaar", stelt Wolfsen in een blog over het gebruik van algoritmes. Algoritmes bieden allerlei kansen, maar kunnen ook verstrekkende gevolgen hebben zoals discriminatie, profilering en het uitsluiten van mensen.

Volgens Wolfsen brengt het gebruik van algoritmes om persoonsgegeven te verwerken dan ook een grote verantwoordelijkheid met zich mee. "Kijk kritisch naar voorstellen van collega’s om deze technologie in te zetten. Zorg dat u kunt verantwoorden dat de automatisch verwerkte gegevens echt rechtmatig en – als onderdeel daarvan - noodzakelijk zijn om uw doel te bereiken. En dat u niet onnodig inbreuk maakt op de privacy van mensen", merkt hij op.

Organisaties die al algoritmes inzetten moeten daarnaast precies weten hoe ze werken en welke persoonsgegevens het algoritme gebruikt. Verder is het belangrijk dat de verwerkingsverantwoordelijke de controle houdt op de verbanden die het algoritme legt. Zo kan er worden gekozen om echte mensen in het proces te laten meekijken. "Neem geen genoegen met ‘computer says no’. Want uw klanten, burgers en patiënten mogen van u verwachten dat u transparant bent over de werking van uw algoritme. Zodat ook zij grip houden op hun persoonsgegevens en zich tegen een voor hun nadelige beslissing van uw systeem kunnen verdedigen", besluit de AP-voorzitter.

Reacties (9)
09-03-2020, 14:50 door Anoniem
Kan ik je alvast de smoes vertellen om het niet te laten zien : Dit is kunstmatige intilligentie, dat kun je niet zien.
Dat is de googel smoes.
09-03-2020, 14:51 door karma4
. "Kijk kritisch naar voorstellen van collega’s om deze technologie in te zetten. Zorg dat u kunt verantwoorden dat de automatisch verwerkte gegevens echt rechtmatig en – als onderdeel daarvan - noodzakelijk zijn om uw doel te bereiken. En dat u niet onnodig inbreuk maakt op de privacy van mensen",
En dat zegt een instanties dat bezig is een sleepnet uit te werpen want iedereen die gelooft dat een ander hem kan zien moet dat via klachtlijn gaan melden. Nogal tegenstrijdig. Het doel van de GDPR was kunnen optreden tegen big tech.

Kijken we naar fraudebestrijding dan zegt het AP dat zoiets niet mag wegens privacy. Het recht om anderen op te lichten onder het mom van privacy. Met algoritmes ben je in staat om betere bescherming van de gewone man te bieden.
09-03-2020, 18:43 door Anoniem
@karma4,

Pas maar op, karmaatje4, eer je het weet wordt je voor paranoide uitgemaakt door een of andere linux evangelist hier.
Kritiek op Big Tech data slurping is verdacht, de googel smoes hoort eigenlijk de "Google en facebook smoes" te heten.

Maar dat mag niet gezegd van de open source verdedigers, die Google android mono-& klimop-cultuur koste wat het kost moeten blijven verdedigen, want "Yea man,android linux", maar wel "propriety there in it's worst locked-in form".

Wat moet een security researcher en een security analyst zonder algoritmen. Shellcode =%26 etc. shellstorm blocked ...encoded uri component etcetera? Vaak gevonden o.a. op het Russian Business Network domein.

Met algoritmen is het weer als met alles - de hamer, die gebruikt wordt om een prachtig beeld te scheppen of dezelfde hamer, die gebruikt wordt om een eeuwenoud monument in puin te slaan. Jij zet zelf immers die hoed op, wit, grijs of zwart.
Code die heelt en beschermt, of code die ondergraaft en verwoest. Kiest u maar.

De vloer van de loge kent niet voor niets afwisselend witte en zwarte tegels, de checkered floor. D.w.z. de constante afwisseling van goed en kwaad, licht en duister.

luntrus
10-03-2020, 08:45 door Bitje-scheef
@karma4,

Pas maar op, karmaatje4, eer je het weet wordt je voor paranoide uitgemaakt door een of andere linux evangelist hier.
Kritiek op Big Tech data slurping is verdacht, de googel smoes hoort eigenlijk de "Google en facebook smoes" te heten.

Maar dat mag niet gezegd van de open source verdedigers, die Google android mono-& klimop-cultuur koste wat het kost moeten blijven verdedigen, want "Yea man,android linux", maar wel "propriety there in it's worst locked-in form".

.......

luntrus

Lekker duidelijk verhaal ook.
10-03-2020, 12:45 door PJW9779
Op zich niets nieuws wat Wolfsen vertelt. De 'verantwoordelijke' moet alles uit kunnen leggen wat onder zijn verantwoordelijkheid gebeurt. Dat geldt dus óók voor algoritmen.

Probleem is echter dat deze verantwoordelijke m.b.t. privacy en beveiliging sinds jaar en dag zijn neus optrekt voor deze onderwerpen. Beveiliging is te duur, en aan privacy-inbreuken wordt zo lekker verdiend of de creepy nieuwsgierigheid bevredigd.

Gaat het bij beveiliging mis dan is natuurlijk sprake van een 'cyber-attack' en van 'zware criminelen', liefst van 'buitenlandse mogendheden'. Dan gaat 'Majoor Kees' met generaal-allures op de barricades om het bedrijf te redden. Op kosten van de organisatie natuurlijk. 'Not my money, not my problem'. Iets waar vooral overheden een handje van hebben.
Dat dezelfde Majoor Kees - om kosten te sparen - heeft nagelaten het IT-systeem up-to-date te laten houden (Haven Rotterdam), of zélf in een phishing-mailtje is getuind heeft niemand het over.

En dat de 'marketing boys & girls' ongezond veel interesse hebben in jouw persoonlijke gegevens mag toch wel duidelijk zijn.
De grootbanken voorop natuurlijk. Maar vlak ook de overheid niet uit. Je Grote Broer heeft uiteraard vooral jouw belang op het oog, of je wilt of niet. Onder het mom van Dienstverlening op maat', 'Uw belang is ons belang' en Burger centraal, alles digitaal!' kijken junior-bankiers en appende ambtenaren over je schouder méé, en daar moet alles voor wijken.
En dat mag best véél kosten. Opnieuw 'not my money', of het nou belastinggeld is of administratiekosten. Grootbanken knipperen niet met de ogen bij een paar honderd miljoen Euro aan boetes. Bij overheden betaalt de burger en wordt alleen de dienstverlening flink teruggeschroefd.

De handhaving mag best eens wat serieuzer worden aangepakt. Die 'goeie bedoelingen' bij de verantwoordelijken geloven we niet meer, dat deden we bij de WPR en de WBP al niet.
Wat heb je als AP aan een stok als je die vervolgens niet gebruikt?

En wat heb je aan een stok als het niet pijn doet? Maak die boetes eens persoonlijk, nu is het een loterij zonder nieten.
De verantwoordelijken zitten in de bestuurskamers van Raden van Bestuur en de Colleges van gemeenten en provincies. En in de toezichthoudende organen van Raden van Commissarissen, provinciale staten en gemeenteraden. Duurbetaald. Té .... duurbetaald.
10-03-2020, 13:11 door karma4
Door Anoniem: @karma4,
..
De vloer van de loge kent niet voor niets afwisselend witte en zwarte tegels, de checkered floor. D.w.z. de constante afwisseling van goed en kwaad, licht en duister.
..
luntrus
Tja daar is karma aan gerelateerd, dat contrast tussen wit en zwart. Waar de keuze gemaakt mag worden.
12-03-2020, 14:09 door [Account Verwijderd] - Bijgewerkt: 12-03-2020, 14:09
Door karma4:
Tja daar is karma aan gerelateerd, dat contrast tussen wit en zwart.
Je kon jezelf niet beter beschrijven dan dát. :P
14-03-2020, 16:28 door karma4 - Bijgewerkt: 14-03-2020, 16:32
Door Unix4:
Door karma4:
Tja daar is karma aan gerelateerd, dat contrast tussen wit en zwart.
Je kon jezelf niet beter beschrijven dan dát. :P
Dan begrijp je het nog steeds niet, wat denk je van:
https://nl.pinterest.com/pin/78039006028665237/
16-03-2020, 00:42 door [Account Verwijderd]
Door karma4:
Door Unix4:
Door karma4:
Tja daar is karma aan gerelateerd, dat contrast tussen wit en zwart.
Je kon jezelf niet beter beschrijven dan dát. :P
Dan begrijp je het nog steeds niet, wat denk je van:
https://nl.pinterest.com/pin/78039006028665237/
Niemand begrijpt jou, Karmaatje. Het enige dat wij aan jou begrijpen is je fixatie en je dogmatische, onwrikbare kijk op de (digitale) wereld. Jouw hele zienswijze over zaken is zwart-wit, dus ik heb het héél goed begrepen. ;-)
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.