Autoriteit Persoonsgegevens wil deltaplan voor risico's AI en algoritmes
Er moet een nationaal deltaplan komen om de risico's van kunstmatige intelligentie (AI) en algoritmen, zoals privacyovertredingen, aan te pakken, zo vindt de Autoriteit Persoonsgegevens (AP). Volgens de privacytoezichthouder gaan de toenemende inzet en technologische innovaties op dit moment sneller dan de samenleving zulke risico’s kan herkennen en aanpakken, via bijvoorbeeld regelgeving en toezicht.
Om beter zicht en grip op deze risico's te krijgen pleit de AP voor een nationaal deltaplan. Daarin moeten onder meer menselijke regie, veilige applicaties en systemen en eisen aan organisaties samenkomen. Tevens wil de toezichthouder dat er geïnvesteerd wordt in de maatschappelijke educatie over en het bewustzijn van algoritmes en AI bij jong en oud. "Het moet voor mensen duidelijk zijn welke rol algoritmes en AI spelen in hun leven", zo stelt de AP.
"Hoe meer AI en algoritmes worden ingezet in de samenleving, hoe meer incidenten plaatsvinden. Bijvoorbeeld mensen die foute adviezen krijgen van chatbots, gezichtsherkenningssystemen die minder goed werken voor mensen van kleur of mensen die een lawine aan parkeerboetes krijgen van de gemeente omdat scanauto’s niet correct ingezet worden", zegt AP-voorzitter Aleid Wolfsen.
Volgens Wolfsen blijven veel risico’s en incidenten nog onder de radar. "De inzet van AI en algoritmes kan bijdragen aan duurzame welvaart en welzijn. En het is mogelijk om dit op zo’n manier te doen dat grondrechten goed beschermd zijn. Maar incidenten schaden wel het vertrouwen. Daarom zijn goede regelgeving en robuust toezicht noodzakelijke voorwaarden."
Het deltaplan voor de beheersing van algoritmes en AI zou voor 2030 moeten worden opgesteld. Zo zouden bedrijven, de overheid en burgers samen kunnen toewerken naar een samenleving waarin algoritmes en AI verantwoord worden gebruikt, laat de AP weten. In Nederland bereiden toezichthouders zich gezamenlijk voor op de AI-verordening, waarover onlangs een politiek akkoord is bereikt.
"Beheersing van algoritmes en AI vraagt echter om meer inspanning dan het opzetten van toezicht alleen. Het is belangrijk dat ook bedrijven en organisaties zelf werken aan beheersing, toezicht en controle om tot betrouwbare en veilige inzet van algoritmes en AI te komen", besluit de Autoriteit Persoonsgegevens.
bedoel je dat de AVG slap is, of de handhaving ervan?
Ik vind dat de AVG op zich best goed in elkaar zit eerlijk gezegd. Dat er nog steeds misbruik wordt gemaakt van persoonsgegevens, is niet per se de schuld van de AVG, net zo min dat door rood fietsen de schuld is van de wegenverkeerswet.
Het slaat nergens op dat we gaan afwijken van termen. Risk assement, DPIA, datalek dossier, blauwdrukken, version control.
Je kan *alles* wat onder beleid traditionele digitale data valt ook toepassen op A.I. En dus ook de AVG waar het beep voor bedoeld is!
bedoel je dat de AVG slap is, of de handhaving ervan?
Ik vind dat de AVG op zich best goed in elkaar zit eerlijk gezegd. Dat er nog steeds misbruik wordt gemaakt van persoonsgegevens, is niet per se de schuld van de AVG, net zo min dat door rood fietsen de schuld is van de wegenverkeerswet.
Dat de handhaving schromelijk te kort schiet, organisaties en ook zelfbedoenmde privacy "experts" niet willen snappen dat heel veel AVG regels feitelijk gewoon risico management betekenen, zegt niet dat het anti-burger is. Juist niet.
Oh en btw, die privacy wetten die hebben we al sinds 1981, dat de AVG het wat anders en strikter heeft opgeschreven prima maar het is zeker niet zo dat we pas 5.5 jaar privacy wetgeving hebben.
bedoel je dat de AVG slap is, of de handhaving ervan?
Ik vind dat de AVG op zich best goed in elkaar zit eerlijk gezegd. Dat er nog steeds misbruik wordt gemaakt van persoonsgegevens, is niet per se de schuld van de AVG, net zo min dat door rood fietsen de schuld is van de wegenverkeerswet.
Overigens heb je deltaplannen en Marshall plannen pas nadat het volledig fout is gegaan. het deltaplan kwam er na de overstromingen op 1 februari 1953 en was dus een reactie op het voorkomen van nog zoeits en dus niet iets preventiefs om dat nog zoiets te voorkomen in eerste instantie.
Als het AP daarmee doelt op de toeslagen affaire, discriminatie door DUO, het predictive policing systeem Syri, het Britse Horizon post office schandaal en de wetgeving waar mevrouw Kaag zo een voorstander van was om banken witwassen en terrorisme financiering te laten opsporen door alle betaal transacties van alle Nederlandse burgers en bedrijven in 1 groot datameer te stoppen en dan met AI te gaan zoeken (non-deterministisch natuurlijk) dan snap ik het puntje deltaplan weer well.
Het slaat nergens op dat we gaan afwijken van termen. Risk assement, DPIA, datalek dossier, blauwdrukken, version control.
Je kan *alles* wat onder beleid traditionele digitale data valt ook toepassen op A.I. En dus ook de AVG waar het beep voor bedoeld is!
wordt ook gedaan, AVG wordt niet ineens uit het raam gegooid als het over AI gaat. Maar AI heeft eigenschappen en risico's die niet door AVG afgevangen worden. Vandaar dat er voor AI wat extra dingetjes opgeschreven gaan worden.
Straks zitten we met een een gen-technologisch gemodificeerde groep naast een groep orginele mensen. Noach revisited met de zondvloed tegen de nefilim nazaten. Niets nieuws onder de zon.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Specialiseer je in Forensisch ICT
Online informatieavond 19 november
Wil jij je specialiseren in digitaal forensisch onderzoek? Je kennis verbreden en tech-nische vaardigheden ontwikkelen? Ontdek de cursus- en opleidingsmogelijkheden van Hogeschool Leiden:
- Bachelor Informatica Forensisch ICT (deeltijd)
- Master Digital Forensics (vol- en deeltijd)
- Module Mobile Forensics
- Module Data Analytics
Interesse? Meld je aan!
Chief Information Security Officer
Utrecht heeft jou nodig! Als Chief Information Security Officer speel jij een cruciale rol in de bescherming van de digitale informatie van de gemeente Utrecht. Als geen ander weet jij welke dreigingen er zijn en kun je deze vertalen naar risico's die de gemeente en haar inwoners lopen. Solliciteer nu!
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
