D66 en GroenLinks-PvdA willen dat er een 'apk-keuring' komt voor het algoritme dat de Dienst Uitvoering Onderwijs (DUO) gebruikt voor het opsporen van fraude. De partijen hebben hier vorige week een motie voor ingediend waar vanmiddag over wordt gestemd. Volgens D66-Kamerlid Bamenga en GroenLinks-PvdA-Kamerlid Stultiens was er sprake van indirecte discriminatie in het controleproces door DUO bij de uitwonendenbeurs, en hebben OCW en DUO nagelaten dit zorgvuldig te evalueren en te corrigeren.

Op dit moment is er nog geen verplichte toets van toepassing voor het gebruik van algoritmes in de fraudebestrijding. Bamenga en Stultiens vinden dat algoritmes gebruikt bij het opsporen van fraude met regelmaat getoetst zouden moeten worden. Om hiervoor te zorgen willen de Kamerleden dat de regering een 'algoritme-apk' invoert. Daarmee wordt het fraudealgoritme van DUO periodiek getoetst op rechtmatigheid. In het geval er sprake is van onrechtmatigheid moet het algoritme niet worden gebruikt. Vanmiddag stemt de Tweede Kamer over de motie.

Demissionair minister Dijkgraaf van Onderwijs vindt het een goed idee om algoritmes periodiek te laten toetsen. "De heer Bamenga vroeg of we een algoritme regelmatig gaan toetsen en daarbij statistische toetsen gebruiken om indirecte discriminatie eventueel vast te stellen en tegen te gaan. Ik denk dat dit een goed idee is", reageerde de minister tijdens een debat over de fraudebestrijding door DUO.

"De grote les is niet alleen dat het misschien een imperfect ontwerp was, maar ook dat we het zo hebben laten blijven bestaan. Het is absoluut belangrijk dat dat regelmatig getoetst wordt. Ik ben graag bereid om een of meerdere onafhankelijke instanties bij zo'n herontwerp te betrekken, want eerlijk gezegd is de kritische blik vaak van degene die van buiten komt. Dat geldt ook voor de interne checks-and-balances die we moeten proberen te bewaken", aldus de bewindsman.

Update

De motie is aangenomen.