D66 wil door overheid gebruikte algoritmes openbaar maken
Als het aan D66 ligt worden alle algoritmes die de overheid gebruikt voor besluitvorming openbaar gemaakt. De overheid maakt steeds vaker gebruik van geautomatiseerde beslissingen die zijn gebaseerd op data en algoritmen. Het gaat dan bijvoorbeeld om energiebeheer en het leiden van verkeersstromen.
Volgens D66 biedt dit kansen, maar zien bestuurders en beleidsmakers de risico's onvoldoende onder ogen. "Maar zoals zo vaak bij de introductie van nieuwe technologieën, ontnemen de voordelen het zicht op de nadelen. Met als gevolg dat die pas in ons blikveld verschijnen als het te laat is. Zo kunnen algoritmes discriminerend werken, omdat ze kwetsbare groepen vaak nog verder benadelen", aldus D66-Kamerlid Kees Verhoeven.
Om discriminatie door algoritmes te voorkomen pleit D66 voor meer transparantie bij het instellen van de algoritmes en de gekozen criteria. "Dus als overheidsinstanties algoritmes gebruiken bij besluitvorming, wil ik dat ze op een website publiceren naar welke kenmerken de rekenformule op zoek is en welke data worden gebruikt", stelt Verhoeven. Hij merkt op dat technologie nooit neutraal of objectief is en algoritmes de aannames van programmeurs volgen. Overheden moeten volgens het Kamerlid dan ook altijd kunnen uitleggen hoe besluiten tot stand komen.
Een anpr flitscamera voor snelheidsovertreding zou discriminerend werken? Sommigen geloven dat nog ook.
Een voorbeeld waar het discriminerende effect foor de regering is ingesteld is het scheefwonen met toegang tot inkomen door verhuurders. Het tellen van tandenborstels voor de hoogte van bijstand als gezamenlijk inkomen met een persoonlijke inkomensnormstelling.
Met SyRi is er het probleem dat dd uitvoerende taken bij gemeentes belegd zijn terwijl deze niet dd toegang hebben tot de benodigde informatie. Dat zijn politieke beslissingen met onduidelijke achterliggende algoritmes.
Net zo'n onduidelijk algoritme als van Rutte met het schenken van dividendbelasting aan grootkapitaal.
Als Kees V. een basiscursus data science zou doen dan zou het begrip wat een algoritme is en hoe je dat verantwoord ethisch doet veel kunnen helpen. Nu wordt het snel onderbuikgevoel.
De voorbeelden zoals levensverzekeringen ofwel woekerpolissen heb ik ook intern gezien. Het waren dikke winstmaker (aandelen bonussen) zeker als je actuariaat nog wat aan de leeftijdsverwachting kon laten sleutelen dan was er meteen een hogere winst te boeken. Toen het fout ging heette ineens dat we onverwacht ouder werden (manipulatie ?)
Met Lehman Brothers herhaalde dat zich. Dat bedrijf hoewel het op Enron affaire leek was het voorbeeld voor bankiers om winst te maken. Gewoon betalingsverkeer sparen hypotheken zijn niet lucratief genoeg. De hele wiskundige onderbouwing was er om die zaken goed te praten, dat is een onverantwoord doel.
Een verantwoorde aanpak gaat via wel doordachte dataminimalisatie met een constante monitoring wat er gebeurt (evaluatie) met een menselijke eindverantwoordelijkheid. Dat laatste betekent: niet verschuilen achter het systeem. Voor de lopende band robot afhandeling als mens is er geen mens nodig.
Interessant, net besteld op basis van je advies ;)
De voorbeelden zoals levensverzekeringen ofwel woekerpolissen heb ik ook intern gezien. Het waren dikke winstmaker (aandelen bonussen) zeker als je actuariaat nog wat aan de leeftijdsverwachting kon laten sleutelen dan was er meteen een hogere winst te boeken. Toen het fout ging heette ineens dat we onverwacht ouder werden (manipulatie ?)
Met Lehman Brothers herhaalde dat zich. Dat bedrijf hoewel het op Enron affaire leek was het voorbeeld voor bankiers om winst te maken. Gewoon betalingsverkeer sparen hypotheken zijn niet lucratief genoeg. De hele wiskundige onderbouwing was er om die zaken goed te praten, dat is een onverantwoord doel.
En daarom is mw O'Neil gestopt met dat werk, zoals ze in het boek uitlegt.
Bespaar je de moeite: ik geloof Cathy en vind haar mening duizend maal interessanter en geloofwaardiger dan jouw verhaaltjes hier.
Ik zou niet weten hoe je hierbij kunt discrimineren. Als je op relevante dingen onderscheid maakt, is het nml. geen discriminatie meer.
Sommige dingen moet je niet openbaar willen maken:
Een duidelijk voorbeeld van iets wat je geheim wilt houden is het algoritme dat het random tijdstip bepaalt van de rondes van een bewaker.
Dus de algoritmes van de belastingdienst en het uwv worden ook openbaar?
en hoe ze mensen met bijstand via algoritmes en data kunnen volgen?
Smart management,smart devices,drones,camera's
Bespaar je de moeite: ik geloof Cathy en vind haar mening duizend maal interessanter en geloofwaardiger dan jouw verhaaltjes hier.
Pijnlijk maar helaas wel hoe het foute gebruik in de praktijk gaat. De algoritmes en Tools zijn open source gebruik ze maar om naar het gewenste resultaat te werken. Kritiek schuiven we onder tafel net het argument open source.
Nee, D66 wil dat ze openbaar worden. Dat betekent nog niet dat het ook gebeurd.
Ik zou het ook prettig vinden om te weten hoe de steekproeven bij de belastingdienst bepaald worden. Het helpt bij het manipuleren van mijn eigen aangifte om te weten welke combinaties van data een alarmbel doen overgaan en welke nog net onder de radar blijven. (:-
Deze posting is gelocked. Reageren is niet meer mogelijk.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
