Autoriteit Persoonsgegevens hekelt datahonger overheid
Overheidsdiensten die illegaal algoritmes gebruiken om fraude op te sporen, de onrechtmatige inzet van 'fraudescorekaarten' en het gebruik van gezichtsherkenning door de politie, het is volgens de Autoriteit Persoonsgegevens (AP) waarschijnlijk het topje van de ijsberg. "De datahonger van de overheid lijkt nog nauwelijks ingedamd", zegt AP-voorzitter Aleid Wolfsen bij de presentatie van het AP Jaarverslag 2023 (pdf).
De privacytoezichthouder beschrijft dat vorig jaar de toeslagenaffaire in een nieuwe fase kwam met de verhoren van de parlementaire enquêtecommissie Fraudebeleid en Dienstverlening. "Tegelijk werd pijnlijk duidelijk dat er nog bitter weinig veranderd is. Terwijl de enquêtecommissie de Autoriteit Persoonsgegevens in 2023 meermaals uitnodigde om uit te leggen hoe het in het verleden zo vreselijk heeft kunnen misgaan, speelden in datzelfde jaar algoritmes en discriminatie nog altijd de hoofdrol in het werk van de AP", aldus het Jaarverslag.
De AP heeft naar eigen zeggen de handen meer dan vol aan het toezicht op algoritmes en mogelijke discriminatie. Daarbij wijst het onder andere naar organisaties zoals DUO, het UWV en de politie. Zo bleek de Dienst Uitvoering Onderwijs (DUO) bij de opsporing van fraude met studiebeurzen een algoritme te gebruiken dat discriminerend uitpakte, kwam aan het licht dat het UWV illegaal een algoritme inzette om fraude met WW-uitkeringen op te sporen en bleken enkele gemeenten tegen beter weten in de 'fraudescorekaart' te gebruiken.
Wolfsen stelt dat algoritmes en AI de samenleving veel goeds kunnen opleveren, zoals efficiëntere werkprocessen voor overheidsorganisaties. "Maar als samenleving moeten we steeds heel alert zijn op de risico’s van algoritmes, waaronder discriminatie. Zodat overheidsinstellingen niet opnieuw levens van mensen verwoesten en onze rechtsstaat en de bescherming van grondrechten overeind houden."
Verder valt het de Autoriteit Persoonsgegevens op dat de overheid bij eigen privacyschendingen steeds vaker private onderzoeksbureaus inhuurt. "Terwijl de AP als onafhankelijke toezichthouder de aangewezen partij is om dit onderzoek te doen. En daar regelmatig ook al mee bezig is. Onderzoek in opdracht kan dan onafhankelijk onderzoek doorkruisen of zelfs vervangen", zo meldt het Jaarverslag. Niet alleen leidt dit tot dubbel werk en verspilling van belastinggeld, maar krijgen deze private bureaus bij een dergelijk onderzoek soms toegang tot zeer gevoelige persoonlijke informatie.
Ze stellen dat elke overheidsinstantie fout is elke overheidsdienst fout is alleen dat ze zelf perfect zijn.
Citaten:
‘Zo bezien ligt het voor de hand dat de toeslagenaffaire zich kan herhalen: de Kamer schrijft iets, een programmeur probeert dat te vertalen, waarbij de intentie kan vervormen. En niemand kijkt er meer naar: de Kamer laat het lopen, uitvoeringsdiensten als DUO laten het lopen, en bezwarencommissies en de rechter ook.’
Er zijn enkele Kamerleden die ervoor pleiten dat computercode ook altijd langs de Tweede Kamer, de Provinciale Staten of de gemeenteraad moet gaan zodra beleid tot zulke code leidt
https://www.volkskrant.nl/tech/bij-zo-n-beetje-elke-tegel-die-we-lichten-ontdekken-we-discriminerende-algoritmen-bij-de-overheid-zegt-de-autoriteit-persoonsgegevens~b360ed6e/
Was daar door Van Huffelen de algortimetoezichthouder, als onderdeel van de AP, niet voor ingesteld?
https://www.security.nl/posting/822885/Kabinet+verdubbelt+budget+algortimetoezichthouder+naar+2+miljoen
Ze stellen dat elke overheidsinstantie fout is elke overheidsdienst fout is alleen dat ze zelf perfect zijn.
Als de overheid in al haar vormen niet continue meer en meer data aan het verzamelen zou zijn, (denk aan maar aan csam, camerabeelden, biometrie, dna, betalingen > 100 euro, etc) dan zou er geen toezichthouder nodig zijn.
Maar keer op keer toont de overheid zich als een onbetrouwbare "partner", met schandalen zoals de Toeslagenaffaire tot gevolg.
Politiek en ambtenarij gaan er van uit dat alles en iedereen maar fraudeert of crimineel is.
Mogelijk omdat ze zelf teveel met die kringen te maken hebben.
Zoals de waard is vertrouwt hij zijn gasten. (of in dit geval anderoms: Als de gasten zo behandeld worden, dan zal de waard ook wel zo zijn)
Hier zitten biljoenen in.
Wij, mensen zijn het nieuwe zwarte goud dat nu gemijnt wordt.
Digitale slaven die onvrijwillig werken voor het goud van een ander ten koste van onze privacy en grondrechten.
...
Zoals de waard is vertrouwt hij zijn gasten. (of in dit geval anderoms: Als de gasten zo behandeld worden, dan zal de waard ook wel zo zijn)
Voor je afsluitende uitspraak heb je een punt. Prima toepasbaar op de ideeen welke leven bij privacy activisten en helaas de overheidsinstantie AP. Uiten dat er overal foute verwerkingen zijn en dat zij de enigen zijn die er wat aan kunnen doen.
Tja BigBrother
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Security Specialist Malware
NCSC
Zit cybersecurity diep in je DNA? Heb jij het in je om op het moment dat het er echt toe doet samen met je collega’s tot de juiste (technische) oplossing te komen? Als security specialist malware bij het Nationaal Cyber Security Centrum (NCSC) doe jij er alles aan om de impact van digitale dreigingen te verminderen en incidenten tegen te gaan.
Information Security Officer
Grijp deze unieke kans voor carrière-ontwikkeling in informatiebeveiliging! Bij Esri bouw je vertrouwensrelaties op en help je zowel ons als onze klanten veiligere technologie te gebruiken. Ben jij de ervaren Security Officer die energie krijgt van werken in 'twee werelden'? Solliciteer dan nu!
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
No more ransomware!
De nieuwe Ransomware Awareness Experience training biedt een realistische maar vooral leuke introductie in de wereld van ransomware. De deelnemers ervaren hoe eenvoudig een organisatie het slachtoffer kan worden van ransomware en leren meteen hoe een besmetting kan worden voorkomen!