image

D66 wil door overheid gebruikte algoritmes openbaar maken

dinsdag 5 juni 2018, 10:17 door Redactie, 10 reacties

Als het aan D66 ligt worden alle algoritmes die de overheid gebruikt voor besluitvorming openbaar gemaakt. De overheid maakt steeds vaker gebruik van geautomatiseerde beslissingen die zijn gebaseerd op data en algoritmen. Het gaat dan bijvoorbeeld om energiebeheer en het leiden van verkeersstromen.

Volgens D66 biedt dit kansen, maar zien bestuurders en beleidsmakers de risico's onvoldoende onder ogen. "Maar zoals zo vaak bij de introductie van nieuwe technologieën, ontnemen de voordelen het zicht op de nadelen. Met als gevolg dat die pas in ons blikveld verschijnen als het te laat is. Zo kunnen algoritmes discriminerend werken, omdat ze kwetsbare groepen vaak nog verder benadelen", aldus D66-Kamerlid Kees Verhoeven.

Om discriminatie door algoritmes te voorkomen pleit D66 voor meer transparantie bij het instellen van de algoritmes en de gekozen criteria. "Dus als overheidsinstanties algoritmes gebruiken bij besluitvorming, wil ik dat ze op een website publiceren naar welke kenmerken de rekenformule op zoek is en welke data worden gebruikt", stelt Verhoeven. Hij merkt op dat technologie nooit neutraal of objectief is en algoritmes de aannames van programmeurs volgen. Overheden moeten volgens het Kamerlid dan ook altijd kunnen uitleggen hoe besluiten tot stand komen.

Reacties (10)
05-06-2018, 10:42 door Anoniem
Goed idee. Aanrader in dit verband: "Weapons of math destruction" van Cathy O'Neil, verhelderend en beangstigend tegelijk.
05-06-2018, 11:20 door karma4
Een tegenvoorbeeld met een bekend algoritme.
Een anpr flitscamera voor snelheidsovertreding zou discriminerend werken? Sommigen geloven dat nog ook.

Een voorbeeld waar het discriminerende effect foor de regering is ingesteld is het scheefwonen met toegang tot inkomen door verhuurders. Het tellen van tandenborstels voor de hoogte van bijstand als gezamenlijk inkomen met een persoonlijke inkomensnormstelling.

Met SyRi is er het probleem dat dd uitvoerende taken bij gemeentes belegd zijn terwijl deze niet dd toegang hebben tot de benodigde informatie. Dat zijn politieke beslissingen met onduidelijke achterliggende algoritmes.
Net zo'n onduidelijk algoritme als van Rutte met het schenken van dividendbelasting aan grootkapitaal.

Als Kees V. een basiscursus data science zou doen dan zou het begrip wat een algoritme is en hoe je dat verantwoord ethisch doet veel kunnen helpen. Nu wordt het snel onderbuikgevoel.
05-06-2018, 12:56 door karma4
Door Anoniem: Goed idee. Aanrader in dit verband: "Weapons of math destruction" van Cathy O'Neil, verhelderend en beangstigend tegelijk.
Even naar dd achtergronden van die Cathy gekeken.
De voorbeelden zoals levensverzekeringen ofwel woekerpolissen heb ik ook intern gezien. Het waren dikke winstmaker (aandelen bonussen) zeker als je actuariaat nog wat aan de leeftijdsverwachting kon laten sleutelen dan was er meteen een hogere winst te boeken. Toen het fout ging heette ineens dat we onverwacht ouder werden (manipulatie ?)
Met Lehman Brothers herhaalde dat zich. Dat bedrijf hoewel het op Enron affaire leek was het voorbeeld voor bankiers om winst te maken. Gewoon betalingsverkeer sparen hypotheken zijn niet lucratief genoeg. De hele wiskundige onderbouwing was er om die zaken goed te praten, dat is een onverantwoord doel.

Een verantwoorde aanpak gaat via wel doordachte dataminimalisatie met een constante monitoring wat er gebeurt (evaluatie) met een menselijke eindverantwoordelijkheid. Dat laatste betekent: niet verschuilen achter het systeem. Voor de lopende band robot afhandeling als mens is er geen mens nodig.
05-06-2018, 13:08 door Anoniem
Goed idee. Aanrader in dit verband: "Weapons of math destruction" van Cathy O'Neil, verhelderend en beangstigend tegelijk

Interessant, net besteld op basis van je advies ;)
05-06-2018, 13:28 door Anoniem
Door karma4: Even naar dd achtergronden van die Cathy gekeken.
De voorbeelden zoals levensverzekeringen ofwel woekerpolissen heb ik ook intern gezien. Het waren dikke winstmaker (aandelen bonussen) zeker als je actuariaat nog wat aan de leeftijdsverwachting kon laten sleutelen dan was er meteen een hogere winst te boeken. Toen het fout ging heette ineens dat we onverwacht ouder werden (manipulatie ?)
Met Lehman Brothers herhaalde dat zich. Dat bedrijf hoewel het op Enron affaire leek was het voorbeeld voor bankiers om winst te maken. Gewoon betalingsverkeer sparen hypotheken zijn niet lucratief genoeg. De hele wiskundige onderbouwing was er om die zaken goed te praten, dat is een onverantwoord doel.

En daarom is mw O'Neil gestopt met dat werk, zoals ze in het boek uitlegt.
05-06-2018, 13:47 door -karma4 - Bijgewerkt: 05-06-2018, 13:47
Door karma4:
Door Anoniem: Goed idee. Aanrader in dit verband: "Weapons of math destruction" van Cathy O'Neil, verhelderend en beangstigend tegelijk.
Even naar dd achtergronden van die Cathy gekeken.

Bespaar je de moeite: ik geloof Cathy en vind haar mening duizend maal interessanter en geloofwaardiger dan jouw verhaaltjes hier.
05-06-2018, 14:03 door Briolet
Het gaat dan bijvoorbeeld om energiebeheer en het leiden van verkeersstromen.

Ik zou niet weten hoe je hierbij kunt discrimineren. Als je op relevante dingen onderscheid maakt, is het nml. geen discriminatie meer.

Sommige dingen moet je niet openbaar willen maken:

Een duidelijk voorbeeld van iets wat je geheim wilt houden is het algoritme dat het random tijdstip bepaalt van de rondes van een bewaker.
05-06-2018, 14:55 door Anoniem
Overheids-diensten en algoritmes.

Dus de algoritmes van de belastingdienst en het uwv worden ook openbaar?
en hoe ze mensen met bijstand via algoritmes en data kunnen volgen?

Smart management,smart devices,drones,camera's
05-06-2018, 15:47 door karma4
Door The FOSS:
Bespaar je de moeite: ik geloof Cathy en vind haar mening duizend maal interessanter en geloofwaardiger dan jouw verhaaltjes hier.
Je laat je weer aardig kennen foss. De zelfde ervaringen als Cathy alleen val ik daarbij je geloof aan als een probleemfactor.
Pijnlijk maar helaas wel hoe het foute gebruik in de praktijk gaat. De algoritmes en Tools zijn open source gebruik ze maar om naar het gewenste resultaat te werken. Kritiek schuiven we onder tafel net het argument open source.
06-06-2018, 09:37 door Briolet
Door Anoniem:Dus de algoritmes van de belastingdienst en het uwv worden ook openbaar?

Nee, D66 wil dat ze openbaar worden. Dat betekent nog niet dat het ook gebeurd.

Ik zou het ook prettig vinden om te weten hoe de steekproeven bij de belastingdienst bepaald worden. Het helpt bij het manipuleren van mijn eigen aangifte om te weten welke combinaties van data een alarmbel doen overgaan en welke nog net onder de radar blijven. (:-
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.