Bodemprocedure tegen Staat over risicoprofileringssysteem SyRI
Op dinsdag 29 oktober vindt er een bodemprocedure tegen de Nederlandse Staat plaats over het risicoprofileringssysteem SyRI (Systeem Risico Indicatie). De zaak is aangespannen door een brede coalitie van maatschappelijke organisaties, waaronder Stichting Platform Bescherming Burgerrechten, het Nederlands Juristen Comité voor de Mensenrechten, vakbond FNV, Stichting Privacy First, Stichting KDVP en de Landelijke Cliëntenraad en auteurs Maxim Februari en Tommy Wieringa.
Volgens de coalitie vormt het systeem een bedreiging voor de rechtsstaat en moet het uit de wet worden geschrapt. SyRI is een systeem van het ministerie van Sociale Zaken waarin persoonsgegevens van Nederlandse burgers uit allerlei overheidsdatabases worden samengevoegd en geanalyseerd met de bedoeling om sociale zekerheids-, arbeids- en belastingfraude tegen te gaan.
Het gebruik van SyRI zou tot risicomeldingen leiden, namelijk profielen van burgers en 'verwonderadressen' met een verhoogd risico op fraude. Verwonderadressen slaat op een loket van het UWV waar medewerkers adressen waarbij ze aan de correctheid twijfelen kunnen melden. Burgers met een verhoogd risico op fraude worden in een register opgenomen en kunnen vervolgens worden onderworpen aan strafrechtelijke en bestuurlijke onderzoeken en sancties.
"Elke inwoner van Nederland is voor de overheid door SyRI "bij voorbaat verdacht'", zo stelt het Platform Bescherming Burgerrechten. Volgens het Platform en andere partijen in de coalitie is de manier waarop de overheid met SyRI grote hoeveelheden data inzet tegen haar burgers ongekend, ondemocratisch en kent ernstige mensenrechtelijke bezwaren. Ook zou met SyRI het vertrouwen van de burger in de overheid worden geschaad. Eerder uitte ook de VN-rapporteur inzake extreme armoede en mensenrechten kritiek op het systeem.
"Geen profileringsmiddel"
Staatssecretaris Van Ark van Sociale Zaken liet afgelopen december nog weten dat SyRI geen middel is om burgers te profileren. "Ik benadruk dat SyRI geen instrument is waarmee profielen van burgers kunnen worden opgesteld om daarmee toekomstig gedrag te voorspellen. SyRI is er op gericht om in een concreet afgebakend project in bestaande, bij de bestuursorganen reeds aanwezige, gegevens opvallende verschillen te vinden met wat op basis van de risico-indicatoren - feitelijk en objectief - mag worden verwacht."
Van Ark benadrukte dat een risicomelding van SyRI geen concreet bewijs is van een overtreding en alleen op zichzelf niet voldoende is om te handhaven. De melding kan alleen dienen als aanleiding om verder onderzoek te doen. "Op basis van het resultaat van het onderzoek beoordeelt het betrokken bestuursorgaan of er aanleiding is om een maatregel te nemen", aldus de staatssecretaris. Ze stelde dat gedurende het onderzoek de burger op wie de informatie betrekking heeft, daarmee wordt benaderd en daarop kan reageren voordat enige beslissing tot handhaving wordt genomen.
In dezelfde maand meldde Van Ark dat bij het vergelijken van data met SyRI persoonsgegevens eerst worden gepseudonimiseerd. Dit betekent dat aan elk persoonsgegeven een code wordt toegekend, zodat tijdens de vergelijking niet bekend is aan wie de gegevens toebehoren. De gepseudonimiseerde data wordt vervolgens vergeleken met het risicomodel dat potentiële hits genereert als uit de datavergelijking veel verschillen naar boven komen die op basis van bekende feiten en de geldende wet- en regelgeving opvallend te noemen zijn, zo legde de staatssecretaris uit.
"Door de Minister van Sociale Zaken en Werkgelegenheid wordt vervolgens gecontroleerd of deze opvallende verschillen niet te verklaren zijn. Alleen indien dit niet het geval is, wordt over de persoon met veel opvallende verschillen een risicomelding gedaan. Daarbij worden de codes weer omgezet in herleidbare persoonsgegevens", aldus Van Ark. Alleen die gegevens waarbij opvallende risico-signalen zijn geconstateerd worden tot persoonsgegevens herleid en beschikbaar gesteld aan de Inspectie SZW.
Openbaar
Naar aanleiding van de kritiek op SyRI hadden GroenLinks en D66 de regering gevraagd om de gebruikte databestanden, algoritmes en analysemethodes van SyRI openbaar te maken en een technische audit uit te voeren op het SyRI-systeem. Zolang SyRI onderwerp van een lopende, gerechtelijke procedure is, is het volgens Van Ark niet in het belang van de Staat om de gevraagde informatie openbaar te maken.
In een antwoord op Kamervragen over het gebruik van SyRI in Capelle aan den IJssel herhaalde de staatssecretaris dat ze van mening is dat gebruikte databestanden en analysemethoden van SyRI niet openbaar moeten worden gemaakt. "Met de openbaarmaking van de gevraagde informatie zou de 'modus operandi' worden vrijgegeven, zodat (potentiële) overtreders hun gedrag hierop kunnen afstemmen. Het belang van het ongehinderd kunnen opsporen en vervolgen van strafbare feiten en het belang van toezicht en handhaving, weegt zwaarder dan het (algemene) belang van openbaarheid."
De partijen die de bodemprocedure hebben aangespannen zeggen niet tegen het bestrijden van fraude door de overheid te zijn. Zij vinden alleen dat dit op grond van een concrete verdenking dient te gebeuren. "Niet dat met sleepnetacties in het privéleven van niet-verdachte Nederlandse burgers wordt gezocht naar een mogelijk risico op fraude. Deze disproportionele methode doet volgens de eisende partijen meer kwaad dan goed", meldt het Platform Bescherming Burgerrechten.
De stichting stelt dat er betere en minder inbreukmakende vormen van fraudebestrijding bestaan dan SyRI. Ook wordt er gewezen naar de vijf SyRI-onderzoeken die sinds de wettelijke invoering werden aangekondigd, waarbij data van tienduizenden burgers zou zijn verwerkt, maar nog geen enkele fraudeur is opgespoord.
Natuurlijk niet. Stel je voor dat uit een technisch onderzoek zou blijken dat z'n verhaal niet klopt.. Conspiracy theory? Misschien wel. Maar er is al vaker gebleken dat niet "alleen de waarheid en de volledige waarheid" wordt gegeven.
Als z'n verhaal klopt, dan zou het juist in het belang van de staat moeten zijn om zo'n (publiek) technisch onderzoek te laten uitvoeren want dat zou z'n verhaal bevestigen. Maar ik zie dat vast helemaal fout.. :)
Da's hoe dan ook bij de belastingdienst, omgekeerde bewijslast.
Een winkelketen kan je niet afdwingen om te consumeren.
De overheid heeft echter machtsmiddelen om burgers wel ergens toe te dwingen.
De enige van de twee zekerheden in het leven van iedere burger,
is dat ie belasting moet betalen en later dood zal gaan.
Jodocus Oyevaer
Dat die regels van de menselijke wetgevers onbegrijpelijk en ondoorgrondelijk zijn is wat anders dan via wat sql statements de benodigde gegevens te koppelen en daarmee de correctheid al dan niet aan te tonen.
Dat getwijfeld wordt aan het recht van wetgevers om wetten te maken is een directe aanval op elk staatsbwginsel.
Dat sql onbegrijpelijk zou zij is mij onbegrijpelijk. Het is open source in veld vormen. Iedereen kan het zien en de werking controleren. Sql injection als kwetsbaarjeid hoort een ieder thuis in beveiliging van op de hoogte te zijn.
Een vrije toegang tot willkeurig geld opnemen van de staat lijkt me fout. Een werkbare oplossing is om alle toeslagen en bijstand overboord te zetten. Een alternatief is het basisinkomen.
Er is een duidelijke reden waarom een onderzoek naar gebruikte data ongewenst is. Veel data is duidelijk niet heel betrouwbaar dan wel consistent. Uitmuntend te gebruiken voor fraude. De politici zelf zijn wel thuis in de wegen naar verrijking neem eens Haga voorheen vvd.
https://www.toeslagenaanvraag.nl/huurtoeslagregels-2019/ veel succes met deze toeslag om de genoemde r es geltjes te volgen.
Ik ben benieuwd naar een meer complete lijst.
Zie, bijvoorbeeld, http://strixadvocaten.nl/systeem-risico-indicatie-syri/
Wie kunnen er nu, en straks, bij al die gegevens? Wat voor impact kan het (later) hebben op iemand? Hoe wordt misbruik vastgesteld? Hoe worden de gevolgen van misbruik volledig ongedaan gemaakt? Hoe worden "invoerfouten", al of niet bewust ingebracht, opgespoord en volledig teruggedraaid? Hoe effectief is de handhaving op correct en juist gebruik, door de juiste functionarissen, in de juiste omstandigheden, enzovoorts?
Regelmatig zijn er berichten, bij allerlei overheidsdiensten, over gelekte informatie, oneigenlijk gebruik van informatie, fraudeleus handelen, door hooggeplaatste functionarissen, door laaggeplaatste functionarissen, met geen tot weinig sancties die iemand wel vier keer doen nadenken om dat risico te wagen.
Het is een heel verleidelijke verzamelbak aan data om eens lekker in te grasduinen. Om de beste roddels te bemachtigen, of om je (politieke/commerciele) opponent flink dwars te zitten, die vervelende buurtgenoot een flinke loer te draaien, of simpelweg omdat je als ambtenaar even (emotioneel) niet lekker in je vel zit, en dus maar een vlaggetje hoog zet, en hoppa, iemand heeft jaren last met allerlei instanties, zonder enkel benul waarom.
Maar wat zal het lekker voelen, als lager geschaalde ambtenaar, om die wijsneus burger die jou volkomen klem heeft geluld inzake jou onrechtmatig en ondeskundig handelen, eens even te laten voelen wie de macht heeft. En als het al ontdekt wordt, oh ja, sorry, invoerfoutje, desnoods Pikmeer arrest.
In je recht staan, is niet hetzelfde als je recht krijgen.
Zolang er ongeleide projectielen ronddolen die vrijwel ongehinderd, en vrijwel straffeloos, iedere procedure en rechtspositie van anderen naar hartenlust kunnen ondermijnen, doet een overheid, de Staat, er verstandig aan dergelijke individuen niet al teveel mogelijkheden tot machtsmisbruik in handen te geven.
Tenzij, natuurlijk, dat eigenlijk de werkelijke opzet is, zoveel mogelijk middelen ter beschikking hebben om alles en iedereen, met een druk op de knop, minder bedreigend te maken, om welke reden dan ook.
Iets dat, volgens de wereldgeschiedenis, het standaard manco is van huidige machthebbers, die willen totale controle over alles en iedereen die hun machtspositie kan bedreigen, maar daarbij vergetend waar zijzelf vandaan komen, en waarom.
De controles kun je net zo goed richten op de te inhalige zorgcowboys en huisjesmelkkers.
Ik heb een onbewezen vermoeden dat die financiële heel gek zijn op alle aandacht met Syri. Het helpt deze fraudeurs.
Ik ben benieuwd naar een meer complete lijst.
"Al onze kosten zijn éénmalig zonder bijkomende kosten. Het aanvragen van zorgtoeslag of huurtoeslag kost € 39,00. Voor het aanvragen van beide toeslagen bedragen deze kosten éénmalig € 48,95."
Graag niet naar dit soort flessentrekkers linken (of beheer jij die website?), maar naar een officiële site.
aan iemand, die schuldsanering ondersteunt. Bar en boos, treurig en niet te geloven vaak,
die verhalen van deskundigen uit het veld en dat zijn gewone ondernemers in de schuldsanering
met ook nog een eigen advocaat.
Het rood stond me op de kaken en de oren tuiterden van ongeloof.
De regering weet waar de fouten zijn gemaakt, maar toegeven zullen ze het nooit.
De mensen kennen de gevolgen van al dit fraais uit eigen ervaring.
En het is niet eens altijd eigen schuld dikke bult, ook het lot speelt mee.
In ene werk verloren, partner weg?
Jaren ellende, soms beter niet aan beginnen aan die toeslagen.
Je moet het immers zelf in de gaten houden, ja u ook startende jeugdig onbezonnenen.
Later betaal je soms 5 jaar terug.
Dan nog de onveiligheid van de cloud, faas en paas.
Digitaal ongevoel, cyber-empathieloosheid.
Jazeker, ze kunnen er wat van deze Ridders van de Nederlandse Belastingaarder-Opper-Sherif.
Het Rotterdamse Belastingkantoor lag niet voor niets vroeger aan de wat in de volksmond heette
- Pluk-me-kaal-straat.
Jodocus Oyevaer
Leuke link:
"Al onze kosten zijn éénmalig zonder bijkomende kosten. Het aanvragen van zorgtoeslag of huurtoeslag kost € 39,00. Voor het aanvragen van beide toeslagen bedragen deze kosten éénmalig € 48,95."
Graag niet naar dit soort flessentrekkers linken (of beheer jij die website?), maar naar een officiële site.
Het klopt dat er veel.misbruik en oplichting is om de aanvraag te die en geld te krijgen.
Nogal opvallend dat de personen die zo'n hekel hebben aan SyRi zich daar niet druk over maken.
Ik had liever dat basisinkomen gezien dan wel een automatische voorziening met toeslagen inkomen waar geen eigen aanvraag bij komt kijken. Dezelfde data dus dat zou mogelijk moeten zijn.
Dus als de fraudeurs weten hoe het algoritme werkt, dan kunnen ze eromheen werken?
Het algoritme is dus niet sluitend?
Wat is de success-rate (in procenten) op dit moment dan?
Of bedoelt de minister dat ze met dit systeem fraudeurs niet willen afschrikken (zodat ze zich alsnog aan de [mogelijk voor hen onbegrijpelijke] regels gaan conformeren) maar die fraudeurs juist willen identificeren om ze financieel uit te kunnen melken, dan wel een strafblad te geven (gratis).
Wat heeft de minister toch te verbergen?
Of nog erger: wat weet de minister zelf niet? :-)
Kortom basisinkomen wordt gereduceerd als aandeel binnen je totaalinkomen.
Daarnaast is het huidige systeem helemaal niet zo slecht, echter de uitvoer zit vol pleisterwerk.
Ik ben nauwelijks verbaasd. Eerder is bij een grote veegactie van Gemeente Amsterdam (de eerste "Schoon Schip" om deze te onderscheiden van een latere) gebleken dat ruim driekwart van de onderzochte gevallen in eerste of tweede aanleg door de gemeente zelf gemaakte administratieve fouten bleken te zijn. Een goede verklaring voor een dergelijk geval heb ik me lang afgevraagd, tot ik vorig jaar bij toeval op een verklaring stuitte, namelijk dat ambtenaren nogal eens het te veel moeite vinden om de dossiers van en naar het centrale archief te brengen, en dus hun eigen schaduwarchief er op nahouden. Door en door menselijk, en alles is volkomen verklaarbaar: Het centrale archief wordt netjes bijgewerkt, maar het officieel niet bekende schaduwarchief niet...
Voor het overige vind ik een toetsing voor de rechter van SyRi een goede zaak:
1. De AVG is vrij duidelijk: "De betrokkene heeft het recht niet te worden onderworpen aan een uitsluitend op geautomatiseerde verwerking, waaronder profilering, gebaseerd besluit waaraan voor hem rechtsgevolgen zijn verbonden of dat hem anderszins in aanmerkelijke mate treft." Weliswaar is een besluit eventueel toegestaan "bij een Unierechtelijke of lidstaatrechtelijke bepaling die op de verwerkingsverantwoordelijke van toepassing", maar ook mits "die ook voorziet in passende maatregelen ter bescherming van de rechten en vrijheden en gerechtvaardigde belangen van de betrokkene", "waaronder ten minste het recht op menselijke tussenkomst van de verwerkingsverantwoordelijke, het recht om zijn standpunt kenbaar te maken en het recht om het besluit aan te vechten" (alles artikel 22 AVG). Welnu, tot nu toe blijven de "passende maatregelen" volstrekt onduidelijk. Een semantische discussie uitlokken over het woord "profilering" (Van Ark), of kritiek tegemoet treden a la @Karma4 is in ieder geval het tegenovergestelde.
2. Bovendien heeft de betrokkene, om het even vanuit artikel 13 of 14 AVG het recht op inzage in: "het bestaan van geautomatiseerde besluitvorming, met inbegrip van de in artikel 22, leden 1 en 4, bedoelde profilering, en, ten minste in die gevallen, nuttige informatie over de onderliggende logica, alsmede het belang en de verwachte gevolgen van die verwerking voor de betrokkene." Van wat ik tot nu toe heb gezien komt de informatievoorziening bij lange niet in de buurt van voldoening van artikel 13 dan wel 14. Ik vind het maar een ondoorzichtig zootje.
Leuke link:
"Al onze kosten zijn éénmalig zonder bijkomende kosten. Het aanvragen van zorgtoeslag of huurtoeslag kost € 39,00. Voor het aanvragen van beide toeslagen bedragen deze kosten éénmalig € 48,95."
Graag niet naar dit soort flessentrekkers linken (of beheer jij die website?), maar naar een officiële site.
Het klopt dat er veel.misbruik en oplichting is om de aanvraag te die en geld te krijgen.
Nogal opvallend dat de personen die zo'n hekel hebben aan SyRi zich daar niet druk over maken.
Da's hoe dan ook bij de belastingdienst, omgekeerde bewijslast.
Ik krijg anders nooit een boete die ik dan moet rechtzetten. Wel een aanslag waaruit blijkt dat ik iets extra moet betalen, of dat ik iets terug grijg. Meestal dat laaste, overigens.
De enige van de twee zekerheden in het leven van iedere burger,
is dat ie belasting moet betalen en later dood zal gaan.
Jodocus Oyevaer
Stikt genomen: Belasting betaal je tot na je dood (wordt dan wel door de erfen gedaan, maar dat terzijde)
Dat is een bekend fenomeen in het omgaan met persoonsgegevens: Doorgaans worden ze alleen gebruikt ten behoeve van negatieve conclusies over een betrokkene. Dezelfde gegevens blijven ongebruikt op de plank liggen bij positieve conclusies over een betrokkene (bijvoorbeeld ontlastend bewijs). Dat is door en door menselijk (een uitvloeisel van het fenomeen negativity bias), maar daarom nog niet professioneler of objectiever.
Een Must Have voorwaarde voor allerlei verwerking van persoonsgegevens zou moeten zijn dat de toezegging dat de gegevens objectief gebruikt worden gekoppeld wordt aan aansprakelijkheid.
Zo gaat langzaam aan de hele maatschappij richting enkelband.
En maar wijzen naar andere landen, ondanks dat je zelf nog zoveel te leren hebt over beschaving.
Een Must Have voorwaarde voor allerlei verwerking van persoonsgegevens zou moeten zijn dat de toezegging dat de gegevens objectief gebruikt worden gekoppeld wordt aan aansprakelijkheid.
Het is een heel andere dan verkondigen dat alles goed zal gaan als je alles van je verbergt. Juist dat verbergen als ontkenning van aansprakelijkheid en verantwoordelijkheid wordt foutief gezien als recht op privacy.
Ja, karma4, de gegevens zijn kennelijk te onbetrouwbaar om toeslagen automatisch toe te kennen, maar wel betrouwbaar genoeg als basis voor strafrechtelijk optreden... :-/
Veel ergerlijker zijn de ambtelijke verzuimboetes omdat je iets niet weet of er niets ontvangen is. Daar geen onterecht kapitalen in om. Degenen die er van profiteren weten hoe dat te spelen.
Ok ik generaliseer wat te veel. Niet eens heel ö verdreven.
De Framing van bij voorbaat verdacht vind ik nu zwaar overdreven. Nergens op gestoeld of onderbouwd. Het is wel gemakkelijk om medestanders te krijgen op die manier.
...
Ik vind het maar een ondoorzichtig zootje.
Dat de wetgeving hopeloos complex gemaakt is, is wat anders.
Een anpr flitspaal neerzetten als profilering dat elke weggebruiker bij voorbaat een verkeershufter is is duidelijk buiten de werkelijkheid.
...
Ik vind het maar een ondoorzichtig zootje.
Dat de wetgeving hopeloos complex gemaakt is, is wat anders.
Een anpr flitspaal neerzetten als profilering dat elke weggebruiker bij voorbaat een verkeershufter is is duidelijk buiten de werkelijkheid.
VN-rapporteur Philip Alston: "SyRI leidt tot digitale stigmatisering van arme burgers"
https://tweakers.net/nieuws/158706/vn-rapporteur-syri-leidt-tot-digitale-stigmatisering-van-arme-burgers.html
De VN-rapporteur Philip Alston (OHCHR) uitte zijn zorgen over SyRI in een open brief gericht aan de Haagse rechtbank (zie PDF, op Tweakers), voorafgaand aan de rechtszaak. SyRI "geeft het stigma rond arme en kwetsbare groepen een 'digitale dimensie' ", zo stelt Alston. Het zou geautomatiseerde vormen van discriminatie in de hand werken.
De huidige opzet van SyRI zou ook tegen hoge kosten slechts weinig succes opleveren. Wat verder interessant is, is dat een van de commentaren op Tweakers verwijst naar het recente artikel How algorithms punish the poor in The Guardian, dat hoewel het niet specifiek over SyRI gaat, in dit verband zeker de moeite waard is. Wees gewaarschuwd:
https://www.theguardian.com/technology/series/automating-poverty
Dat artikel maakt deel uit van een serie van publicaties onder de cynische titel "Automating poverty". Lezing van die achtergronden stelt men in staat de vele heikele punten in de hele discussie over SyRI in een wat groter verband te bevatten, zoals wat de beroerde ervaringen met welfare en ICT zijn in de Verenigde Staten en zo'n groot land als India.
Een van de mede initiatiefnemers van deze bodemprocedure, de rechtsfilosoof, ethicus en schrijver Maxim Februari, staat in een groot interview in de Vrij Nederland, het oktober 2018 nummer. Over de impact van SyRI en andere datasturing technologieën elders, zoals ontwikkeling van social credits in China, zegt hij het volgende:
https://www.vn.nl/maxim-februari/
De kop boven het online VN artikel: "Vroeger las je de krant, nu word je door de krant gelezen", vat het hele probleem in een notendop samen. Want als tegenwoordig zelfs bij de verzetskranten van weleer, zoals de Vrij Nederland en de Trouw, de tech giganten zoals Google en Facebook ook met je meelezen, dan moet je je echt zorgen gaan maken.
Nieuwsuur heeft aandacht aan SyRI besteed, dus het is breed in beeld geweest. De tekst uit de NPO programma Gids:
https://www.npostart.nl/nieuwsuur/21-10-2019/VPWON_1303289
Deze posting is gelocked. Reageren is niet meer mogelijk.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
