Autoriteit Persoonsgegevens hekelt datahonger overheid
Overheidsdiensten die illegaal algoritmes gebruiken om fraude op te sporen, de onrechtmatige inzet van 'fraudescorekaarten' en het gebruik van gezichtsherkenning door de politie, het is volgens de Autoriteit Persoonsgegevens (AP) waarschijnlijk het topje van de ijsberg. "De datahonger van de overheid lijkt nog nauwelijks ingedamd", zegt AP-voorzitter Aleid Wolfsen bij de presentatie van het AP Jaarverslag 2023 (pdf).
De privacytoezichthouder beschrijft dat vorig jaar de toeslagenaffaire in een nieuwe fase kwam met de verhoren van de parlementaire enquêtecommissie Fraudebeleid en Dienstverlening. "Tegelijk werd pijnlijk duidelijk dat er nog bitter weinig veranderd is. Terwijl de enquêtecommissie de Autoriteit Persoonsgegevens in 2023 meermaals uitnodigde om uit te leggen hoe het in het verleden zo vreselijk heeft kunnen misgaan, speelden in datzelfde jaar algoritmes en discriminatie nog altijd de hoofdrol in het werk van de AP", aldus het Jaarverslag.
De AP heeft naar eigen zeggen de handen meer dan vol aan het toezicht op algoritmes en mogelijke discriminatie. Daarbij wijst het onder andere naar organisaties zoals DUO, het UWV en de politie. Zo bleek de Dienst Uitvoering Onderwijs (DUO) bij de opsporing van fraude met studiebeurzen een algoritme te gebruiken dat discriminerend uitpakte, kwam aan het licht dat het UWV illegaal een algoritme inzette om fraude met WW-uitkeringen op te sporen en bleken enkele gemeenten tegen beter weten in de 'fraudescorekaart' te gebruiken.
Wolfsen stelt dat algoritmes en AI de samenleving veel goeds kunnen opleveren, zoals efficiëntere werkprocessen voor overheidsorganisaties. "Maar als samenleving moeten we steeds heel alert zijn op de risico’s van algoritmes, waaronder discriminatie. Zodat overheidsinstellingen niet opnieuw levens van mensen verwoesten en onze rechtsstaat en de bescherming van grondrechten overeind houden."
Verder valt het de Autoriteit Persoonsgegevens op dat de overheid bij eigen privacyschendingen steeds vaker private onderzoeksbureaus inhuurt. "Terwijl de AP als onafhankelijke toezichthouder de aangewezen partij is om dit onderzoek te doen. En daar regelmatig ook al mee bezig is. Onderzoek in opdracht kan dan onafhankelijk onderzoek doorkruisen of zelfs vervangen", zo meldt het Jaarverslag. Niet alleen leidt dit tot dubbel werk en verspilling van belastinggeld, maar krijgen deze private bureaus bij een dergelijk onderzoek soms toegang tot zeer gevoelige persoonlijke informatie.
Ze stellen dat elke overheidsinstantie fout is elke overheidsdienst fout is alleen dat ze zelf perfect zijn.
Citaten:
‘Zo bezien ligt het voor de hand dat de toeslagenaffaire zich kan herhalen: de Kamer schrijft iets, een programmeur probeert dat te vertalen, waarbij de intentie kan vervormen. En niemand kijkt er meer naar: de Kamer laat het lopen, uitvoeringsdiensten als DUO laten het lopen, en bezwarencommissies en de rechter ook.’
Er zijn enkele Kamerleden die ervoor pleiten dat computercode ook altijd langs de Tweede Kamer, de Provinciale Staten of de gemeenteraad moet gaan zodra beleid tot zulke code leidt
https://www.volkskrant.nl/tech/bij-zo-n-beetje-elke-tegel-die-we-lichten-ontdekken-we-discriminerende-algoritmen-bij-de-overheid-zegt-de-autoriteit-persoonsgegevens~b360ed6e/
Was daar door Van Huffelen de algortimetoezichthouder, als onderdeel van de AP, niet voor ingesteld?
https://www.security.nl/posting/822885/Kabinet+verdubbelt+budget+algortimetoezichthouder+naar+2+miljoen
Ze stellen dat elke overheidsinstantie fout is elke overheidsdienst fout is alleen dat ze zelf perfect zijn.
Als de overheid in al haar vormen niet continue meer en meer data aan het verzamelen zou zijn, (denk aan maar aan csam, camerabeelden, biometrie, dna, betalingen > 100 euro, etc) dan zou er geen toezichthouder nodig zijn.
Maar keer op keer toont de overheid zich als een onbetrouwbare "partner", met schandalen zoals de Toeslagenaffaire tot gevolg.
Politiek en ambtenarij gaan er van uit dat alles en iedereen maar fraudeert of crimineel is.
Mogelijk omdat ze zelf teveel met die kringen te maken hebben.
Zoals de waard is vertrouwt hij zijn gasten. (of in dit geval anderoms: Als de gasten zo behandeld worden, dan zal de waard ook wel zo zijn)
Hier zitten biljoenen in.
Wij, mensen zijn het nieuwe zwarte goud dat nu gemijnt wordt.
Digitale slaven die onvrijwillig werken voor het goud van een ander ten koste van onze privacy en grondrechten.
...
Zoals de waard is vertrouwt hij zijn gasten. (of in dit geval anderoms: Als de gasten zo behandeld worden, dan zal de waard ook wel zo zijn)
Voor je afsluitende uitspraak heb je een punt. Prima toepasbaar op de ideeen welke leven bij privacy activisten en helaas de overheidsinstantie AP. Uiten dat er overal foute verwerkingen zijn en dat zij de enigen zijn die er wat aan kunnen doen.
Tja BigBrother
...
Zoals de waard is vertrouwt hij zijn gasten. (of in dit geval anderoms: Als de gasten zo behandeld worden, dan zal de waard ook wel zo zijn)
De genoemde voorbeelden van data verzamelen rammelen aan alle kanten. Belasting heffen is schending van vrijheid, frauders oplichters aanpakken is inbreuk op privacy. Wat je zo hoort is de Big Brother newspeak gebezigd door de AP.
Voor je afsluitende uitspraak heb je een punt. Prima toepasbaar op de ideeen welke leven bij privacy activisten en helaas de overheidsinstantie AP. Uiten dat er overal foute verwerkingen zijn en dat zij de enigen zijn die er wat aan kunnen doen.
Tja BigBrother
Daar tegenover staat dan de overheid en de politiek zelf die als Big Brother alles willen zien, horen en controleren van haar burgers. ("haar" als bezit, ipv dienbaar aan).
Het liefst zo ver mogelijk achter de voordeur.
"De genoemde voorbeelden [...] rammelen aan alle kanten":
- Fictieve belasting-percentages hanteren (in box 3) is illegaal, heeft de rechter bepaald. Ga daar maar klagen.
- Vwb frauders: Met de toeslagenaffaire hebben we gezien dat de belastingdienst de menselijke maat uit het zicht verloor. Met als financieel gevolg dat de herstelactie vele malen duurder is dan de potentiele opbrengst van de vermoedde fraude.
Dat politiek alle burgers als potentiele fraudeurs ziet, betekent nog niet dat iedereen dat ook is. Het is elke keer weer dezelfde pendulum beweging in de politiek. Van het ene uiterste naar het andere, en weer terug. (iedereen is frauder, niemand is frauder, iedereen is fradeur) Er is geen leervermogen.
Dit is allemaal gedocumenteerd. Geen "newspeak" van het AP.
"Tja," de overheid als Big Brother, aangestuurd door de politiek.
Een revolutionair idee voor de 21e eeuw. Geniet er maar van.
De werkelijkheid kan hard zijn. De roze droom dat de politiiek en de overheid nooit iets fout doen met voorbedachte rade, hebben we al decenna achter ons gelaten. (minstens Pre-Lubbers of Pre-Den Uil)
"Ja maar dat moet het AP maar controleren"
Met andere woorden, zolang het AP er niets van zegt gaan we er gewoon mee door.
De veronderstelde tegenmacht is nog veel te klein om echt iets uit te kunnen richten, de meeste klachten worden niet eens behandeld. Daarom moet er meer geld en meer FTE naar het AP. En dat wil de overheid niet besluiten want dat gaat in tegen hun vermeende eigenbelang.
Je Big Brother-frame is absurd, je doet alsof het het tegenovergestelde betekent van wat George Orwell ermee bedoelde. "Big Brother is watching you" slaat op de overheid die de burgers in detail bespioneert, en niet op de controlemechanismen waarmee de overheid zichzelf controleert om precies die ellendige Big Brother-situaties te voorkomen. Jij ageert consequent tegen maatregelen die helpen voorkomen dat de overheid Big Brother gaat spelen. Het lijkt wel alsof je controle van de ene ambtelijke organisatie door de andere verwart met een inbreuk op de persoonlijke levenssfeer van de ambtenaren uit de gecontroleerde organisatie. Dat is alleen niet hun persoonlijke levenssfeer, het is hun werk dat gecontroleerd wordt.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
