image

Kabinet lanceert eerste versie van publiek register met overheidsalgoritmes

woensdag 21 december 2022, 13:33 door Redactie, 4 reacties

Het kabinet heeft op algoritmes.overheid.nl de eerste versie van een publiek register gelanceerd waarin algoritmes zijn te vinden die door overheden worden toegepast. Volgens staatssecretaris Van Huffelen schiet de transparantie over de inzet van algoritmes door de overheid nog vaak tekort. Iets dat het register zou moeten veranderen.

"Burgers moeten erop kunnen vertrouwen dat algoritmes voldoen aan publieke waarden en de daarvan afgeleide (wettelijke) normen en dat uitgelegd wordt hoe ze werken. Op basis daarvan kunnen burgers de overheid desgewenst kritisch volgen en bevragen of zij zich aan de regels houdt", aldus de staatssecretaris.

Bij de ontwikkeling van het publieke algoritmeregister is gebruik gemaakt van kennis uit pilots en ervaringen met de bestaande algoritmeregisters van overheidsorganisaties. Volgens Van Huffelen gaat het hier om een eerste versie en is verdere doorontwikkeling "beslist nodig". Het komend jaar zal in overleg met overheden gewerkt worden aan een eenduidige registratie van algoritmes in het register.

In de huidige versie van het register zijn de gegevens handmatig ingevoerd. Het plan is om de informatie automatisch op te halen uit decentrale algoritmeregisters. Overheidsorganisaties die geen eigen algoritmeregister hebben, kunnen informatie over hun algoritmes rechtstreeks in het centrale register plaatsen. Deelname aan het algoritmeregister is niet verplicht voor overheden, maar hier wordt wel naar gekeken.

De eerste versie van het algoritmeregister maakt gebruik van de metadatastandaard van het innovatieproject ‘consortium Publieke controle op algoritmes’, die op verschillende bronnen is gebaseerd. In het register is informatie te vinden over bijvoorbeeld het doel en de impact van het algoritme, en of er een risicoanalyse is uitgevoerd voorafgaande aan de ingebruikname. Tevens is de broncode van het algoritmeregister openbaar gemaakt. "Zodat de opzet van het register transparant is en suggesties voor verbeteringen gedaan kunnen worden", laat Van Huffelen verder weten.

Reacties (4)
22-12-2022, 09:07 door Anoniem
Website is niet te bereiken..(algoritmes.overheid.nl).

Ontzettend goed dat de overheid dit doet.
22-12-2022, 10:39 door Anoniem
Yep, heel goed dat ze 'proberen' (meer) transparant te zijn in het gebruik van algoritmes, echter is het larie als ze alleen laten weten of een algoritme bestaat uit handingevoerde regels of zelflerend is!

Type algoritme

Is het algoritme op regels gebaseerd of zelflerend? Regelgebaseerde algoritmes zijn handmatig door mensen gebouwd, meestal op basis van wetten of verordeningen. Zelflerende algoritmes kunnen zelf verbanden ontdekken in gegevens.

Het lijkt opgezet te zijn door iemand die 'algoritme' heeft opgezocht in de Dikke van Dale, echter de basiskennis ict niet heeft gehad en niet weet te omschrijven wat 'een algoritme' precies inhoud op ict-gebied (qua programmeren) en het blijkbaar heeft nagelaten een ict-expert te vragen wat een algoritme precies inhoud op ict-gebied (of van het atwoord gingen de oren aleen maar klapperen).

"Burgers moeten erop kunnen vertrouwen dat algoritmes voldoen aan publieke waarden en de daarvan afgeleide (wettelijke) normen en dat uitgelegd wordt hoe ze werken.
en dat kan een burger bepalen doordat het algoritme op regels gebaseerd of op zelflerend is gebaseerd?
Totaal geen informatie (tot nu toe) te vinden op die site waar aangegeven wordt welke variabelen er worden gebruikt en de waardering die op die verschillende variabelen worden gehanteerd. Maar als 'deze reactie' als commentaar wordt teruggelezen door diegene(n) die de site heeft opgezet, heeft tie blijkbaar geen flauw benaul waar ik het over heb.
De blackbox die wel wordt benoemd, blijft helaas dicht en laat dat nou juist de uitgevoerde 'algoritme' bevatten!

Op basis daarvan kunnen burgers de overheid desgewenst kritisch volgen en bevragen of zij zich aan de regels houdt", aldus de staatssecretaris.
Op basis van niets kan de burger niets terugkoppelen noch kritische vragen stellen!

Nou ja , als begonnen, een mooie eerste opzet, mss met een herziende versie, na kritische klachten van wél-ict'rs, dat de gebruikte algoritmes alsnog worden prijsgegeven.
Echter bedenkelijk, aangezien je dan ook prijs geeft hoe de burger zich moet 'gedragen' om niet door zo'n algoritme door de mand te vallen (om het ook maar in jip&janneke jargon verder aan te vullen).
Maar als dat dus niet gebeurd..., dan is die hele site flauwekul om de burger mee zoet te houden.
23-12-2022, 09:19 door Anoniem
Zoals anoniem 10:39 zegt. Zonder daadwerkelijk te weten hoe de algoritmen werken, ben je als burger nog steeds niets wijzer. Dat er gemodelleerd wordt, dat weten en begrijpen we. Het gaat er juist om, hoe dat gebeurd.
Als voorbeeld het 'WMO voorspelmodel' van de gemeente Den Haag. Wat mij betreft is dit meteen ook een slecht voorbeeld, want dan mag het hele CBS, SPB, RIVM en wat we allemaal nog meer aan wetenschappelijke data instellingen hebben ook meteen alles hier plaatsen, maar dat terzijde :) Er wordt aangegeven dat er enkel gebruik gemaakt wordt van openbare bronnen (CBS data). Stel nu, dat ik als betrokken burger wil nagaan of dat model - waar voor de komende 10 tot 15 jaar beleidskeuzes op gebaseerd worden - wel goed werkt. Dan heeft deze niet alleen de data nodig, maar ook de weging en de onderlinge interacties tussen deze variabelen. Sterker nog, dat is juist wat de burger nodig heeft om te begrijpen hoe het model werkt. Daarbij, als elk jaar de werking van het model wordt gevalueerd en dus ook zal worden bijgesteld, hoe voorkom je dan dat er politieke afwegingen het model in sluipen? Je op meerdere manieren de interacties tussen variabelen kunt bepalen en zo de uitkomsten wat bij sturen, terwijl de controleerbaarheid zeer laag is. Je zult namelijk elke aanpassing moeten vergelijken met én de dataset van elk en ieder jaar én je moet de modellen vergelijken met de datasets van elk en ieder jaar. Dat gaat de eerste paar jaar nog goed, maar na 5 tot 15 jaar wordt dat een behoorlijk complexe vergelijking. En omdat er geen causaliteit is te bepalen tussen variabelen, kun je niet met goed onderbouwen waarom het ene model beter is dan het andere model.

Dat zal vast een discussie worden over een paar jaar, en het is goed dat daar nu de basis voor gelegd wordt. Het zou alleen mooi zijn, als ook het toezicht op de algoritmen daar rekenschap van geeft.
18-06-2023, 10:08 door Anoniem
Nauwelijks zicht op 'zwarte zoemende dozen' van overheid: 'Algoritmeregister wassen neus'

https://nos.nl/artikel/2479334-nauwelijks-zicht-op-zwarte-zoemende-dozen-van-overheid-algoritmeregister-wassen-neus
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.