Ik moest ineens aan Sinterklaas denken.

Wat die niet allemaal in dat boek heeft staan en wat de AVG daarvan zou denken. Als Aleid het zou weten. Wat die ouwe allemaal bijgehouden heeft.

Maar uiteindelijk krijg je toch je kadootje.Heb je gewoon recht op. Omdat die premie van je loon is gepikt, helemaal.

Gaan we weer. Volgens mij zitten er een paar te slapen bij het UWV (of gewoon bewust riskeren). Is niet de eerste keer.

Wacht maar op MS Recall, dan krijgen we pas ge-o.h. Volgens een aantal bronnen (Youtube weliswaar) wordt er wel degelijk info gestuurd naar MS.

Hoe kan dat als ze verplicht zijn een DPIA uit te voeren. Dan had dat meteen aan het licht moeten komen. Kortom er is bewust afgeweken van audits of de resultaten.

En dan de kerstman met zijn naugthy or nice list. Hoe zijn de rechten van betrokkenen daarop gedefinieerd? Bij welke privacy elf moet je je verzoek als betrokkene indienen?

Zowel de elf als sinterklaas zijn fantasie, net als AI security- en privacy-by-design en responsible-design bij het UWV.

Wat dat betreft wel een goede vergelijking

Het gaat hier nu om de vraag of er rechten zijn geschonden van mensen waarmee de leverancier de AI heeft getraind, niet om de vraag of het de rechten schendt van de werkzoekenden op wie het resultaat wordt losgelaten.

Het is heel goed mogelijk dat ze in de DPIA alleen naar het laatste hebben gekeken. Een DPIA is namelijk geen wondermiddel dat onvermijdelijk alles aan het licht brengt, een DPIA is zo goed als een organisatie hem opzet en uitvoert. Typisch gaat zoiets met vallen en opstaan, worden de lessen die men leert verwerkt in de methode zodat dezelfde fout de volgende keer niet wordt gemaakt. In een AI-systeem zijn die trainingsdata niet zomaar de testdata die de leverancier bij de ontwikkeling heeft gebruikt, zoals bij een traditioneel systeem, het trainingsresultaat is onderdeel van het systeem dat in productie gebruikt wordt. Dat is nieuw.

Het probleem zou wel eens kunnen zijn dat er niet is afgeweken van wat men gewend was te doen, wat jij audits en resultaten noemt, terwijl men deze keer nou juist wel daarvan had moeten afwijken en naar meer had moeten kijken.

Enerzijds zou je dan willen dat de mensen die DPIA's uitvoeren het in huis hebben om daar wel meteen al naar te kijken. Anderzijds is het niet verkeerd dat de fout niet wordt weggemoffeld en stilgehouden maar dat die alsnog een punt wordt nadat het muntje is gevallen. Ik denk dat dat in heel wat organisaties slechter zal gaan.

De AVG zegt letterlijk helemaal niets over de ontwikkeling van software. De AVG zegt alleen iets over de verwerking van persoonsgegevens. Het UWV heeft daarvoor een wettelijke grondslag, dus tot zover geen probleem.

Als UWV data heeft gedeeld met externe partijen, zonder dat daarvoor een gedegen grondslag voor bestond, is er pas een probleem. Het gebruik van een AI die getraind is met illegaal verkregen data, is hooguit een ethische kwestie. Maar als we op die toer gaan, dan moeten we ook ernstig kritisch gaan kijken naar de Microsoftverslaving van DICTU (ICT-dienst voor de gehele rijksoverheid). Iets wat ik overigens van harte aanbeveel.

Dat zou ik niet te snel concluderen.

Op zich werkt een AI-systeem niet met de letterlijke invoer waarmee het getraind is, maar met een afgeleide die verondersteld wordt er een soort statistische weergave van te zijn. Alleen snapt niemand hoe de kennis in het systeem in de bits en bytes is gecodeerd en ook niet wat er nou wel en niet precies in is vastgelegd. Het is meer zo dat men methodes heeft ontwikkeld om tot dat soort data te komen die behoorlijk goed blijken te werken, zonder dat men werkelijk snapt hoe je die data als mens zou kunnen interpreteren of zou kunnen inspecteren wat er nou werkelijk aan herkenbare feiten in is vastgelegd.

Bij de discussies of AI-systemen auteursrechten schenden zie je dat sommige teksten waarmee zo'n systeem getraind is verbluffend nauwkeurig gereproduceerd kunnen worden, wat een sterke aanwijzing is dat ze er toch op de een of andere manier in zitten. Dus waar kom je juridisch terecht als het systeem dat UWV gebruikt dat soort treffers kan ophoesten? En hoe beoordeel je of dat kan als niemand snapt, ook de leverancier niet, wat er precies is vastgelegd en hoe je dat uitputtend kan uitvogelen? Als een specifieke set gegevens uniek genoeg is om er een persoon mee te kunnen identificeren, ook als je voor het vaststellen van de identiteit er gegevens aan moet koppelen die niet in het systeem zelf zitten, dan zijn het in beginsel persoonsgegevens.

Ik stel me zo voor dat bij UWV de vraag speelt of de trainingsdata die de leverancier heeft gebruikt wel voldoende is geanonimiseerd. Niet alleen moeten expliciete persoonsgegevens, NAW en dergelijke, er natuurlijk niet inzitten, maar ook situaties die uniek genoeg zijn om op een specifieke persoon te kunnen duiden, in combinatie met gegevens in andere systemen die in beginsel te koppelen zijn, zijn problematisch.

Daarnaast denk ik dat, ook als dat allemaal wel goed zit, de vraag gesteld moet worden of de gegevens waarmee de AI getraind is wel gebruikt hadden mogen worden daarvoor. Bij een traditioneel systeem kan het zijn dat de leverancier testdata bij nader inzien niet had mogen gebruiken. Dat verandert niets aan het feit dat de software er is en dat die testdata niet bij de klant belanden. Daarom is het een probleem voor de leverancier en niet voor de klant. Maar bij AI komt wat de trainingsdata oplevert wél bij de klant terecht, die gebruikt dat operationeel, en het systeem stopt met werken als dat niet gebruikt blijkt te mogen worden. Dat is niet alleen een risico voor de leverancier maar ook voor de klant.

Meer diepgang bij deze artikelen;
https://www.computable.nl/2023/10/30/uwv-is-terug-met-een-mega-ict-project/
https://www.computable.nl/2024/05/03/het-mega-ict-project-van-uwv-werkbedrijf/
https://www.computable.nl/2024/06/07/is-het-uwv-echt-zon-enorme-ict-ramp/

Het AD heeft hier ooit een vermakelijk artikel over geschreven:

https://www.ad.nl/tech/schendt-het-grote-boek-van-sint-en-piet-de-privacywet-niet~ad95f1b2/