image

Mensenrechtencollege waarschuwt voor inzet algoritmen in het onderwijs

maandag 13 mei 2024, 10:11 door Redactie, 5 reacties

Het College voor de Rechten van de Mens waarschuwt voor de inzet van algoritmen in het onderwijs, omdat dit een risico voor de privacy van leerlingen en studenten kan zijn en kan leiden tot ongelijke behandeling. Het College roept de overheid op om scholen te helpen dergelijke risico's tegen te gaan. Onderzoeksinstituten KBA Nijmegen en ResearchNed deden in opdracht van het College onderzoek naar hoe algoritmen in het onderwijs in Nederland worden ingezet.

Daaruit blijkt volgens het College dat veel onderwijsinstellingen digitale middelen inzetten waarbij algoritmes keuzes maken, zoals leersystemen die oefeningen automatisch aanpassen op het gedrag van de leerling. "De inzet van deze middelen kent voordelen, maar ook risico's", aldus het College. Het gaat vooral om risico’s op discriminatie en/of kansenongelijkheid, zo staat in het onderzoeksrapport.

"Dergelijke risico’s kunnen het gevolg zijn van ‘bias’. Deze kan ontstaan door de selectie of het gebruik van data waarmee het algoritme is getraind en door de manier waarop het algoritme is geprogrammeerd. Als het algoritme onvoldoende rekening houdt met de achtergrond of specifieke kenmerken van bepaalde groepen, kunnen zij worden benadeeld", stellen de onderzoekers. Die voegen toe dat het doorgaans moeilijk is om vast te stellen of bepaalde algoritmen inderdaad sommige groepen benadelen.

"Het is onvoldoende transparant hoe algoritmen precies werken. Volgens deskundigen komt dat mede doordat er commerciële belangen mee zijn gemoeid", zo stellen de onderzoekers. Een ander risico van het gebruik van algoritmen in het onderwijs waarop wordt gewezen, is het risico dat de privacy van leerlingen en studenten onvoldoende is gewaarborgd. "Zij worden doorgaans onvoldoende geïnformeerd over welke data worden verzameld en gebruikt. Ook speelt de kwestie van het eigenaarschap van de data", laat het rapport weten.

Het onderzoek laat ook zien dat allerlei algoritmische toepassingen in zowel het funderend als het hoger onderwijs worden ingezet. Veertig tot zestig procent van de basisscholen gebruikt adaptieve leersystemen, waarbij het systeem oefeningen, bijvoorbeeld bij taal en rekenen, automatisch aanpast op basis van het gedrag van de leerling. Ook gebruiken veel onderwijsinstellingen algoritmes om data over leerlingen automatisch te analyseren om bijvoorbeeld te voorspellen of een leerling risico loopt uit te vallen of extra ondersteuning nodig heeft of om fraude op te sporen.

Het College stelt dat onderwijsinstellingen voordat ze digitale systemen gaan gebruiken een 'waardenafweging' moeten maken of en wanneer technologie een bijdrage levert aan goed onderwijs. "Scholen kunnen en moeten eisen stellen aan softwareleveranciers op het gebied van gelijke behandeling, privacy, autonomie en transparantie."

Big Tech

Een ander punt dat het College noemt is dat een groot deel van het aanbod afkomstig is van grote techbedrijven zoals Apple, Google, en Microsoft. "De invloed van deze bedrijven kan sturend zijn en kan scholen van hun producten afhankelijk maken, terwijl scholen nu juist vrije keuze moeten hebben om al dan niet digitale middelen te kiezen die passen bij hun visie op goed onderwijs."

"Daarom moet het ministerie van Onderwijs, Cultuur en Wetenschap scholen helpen", zo gaat het College verder. Dat stelt dat het ministerie dit kan doen door onderzoek naar de effecten van digitale systemen te stimuleren en voorlichting te geven over de risico's aan schoolbesturen, docenten, ouders en leerlingen. Ook kan er een normenkader worden ontwikkeld dat duidelijkheid schept waar een systeem in ieder geval aan moet voldoen om discriminatie te voorkomen.

Reacties (5)
13-05-2024, 13:46 door Anoniem
Dan gaan we terug naar thuisonderwijs, en het oude systeem van meesters en leerlingen.
Of alleen de echt rijke mensen krijgen nog fatsoenlijk onderwijs.
We gaan weer eens een eeuw achteruit in de tijd hier.
13-05-2024, 15:14 door Anoniem
haha, hier moet ik om lachen.. "De invloed van deze bedrijven kan sturend zijn en kan scholen van hun producten afhankelijk maken, terwijl scholen nu juist vrije keuze moeten hebben om al dan niet digitale middelen te kiezen"

"kan sturend zijn" moet vervangen worden door "is sturend". Microsoft dicteert alle scholen, ze paaien ze met dikke bonussen en bijna gratis producten, want de gedachte bij MS is, wanner je studenten vastlegt dan kiezen ze in de toekomst ook voor de mssuite. Ik vind het een heel ongezonde ontwikkeling maar er lijkt niets meer aan te doen.
13-05-2024, 16:29 door Anoniem
Door Anoniem: Microsoft dicteert alle scholen, ze paaien ze met dikke bonussen en bijna gratis producten

Software Colony Europe
Millions of students getting addicted to the products of Microsoft
EfSyn | Greece, 19 June, 2017

https://www.investigate-europe.eu/themes/investigations/microsoft
13-05-2024, 16:51 door Anoniem
Door Anoniem: Ik vind het een heel ongezonde ontwikkeling maar er lijkt niets meer aan te doen.

Ik ben minder pessimistisch, het enige wat nodig is dat scholen gaan eisen dat de IT omgevingen op basis publieke waarden worden ingericht. En dat kan prima met opensource software en open lesmateriaal. Het meeste is al beschikbaar zoals Moodle, NextCloud of Gibbon. Zie verder http://eerlijkdigitaalonderwijs.nl
13-05-2024, 17:27 door karma4
Mensenrechtenorganisatie stelt dat educatie een schending van mensenrechten is. Lezen en schijven rekenen het zijn allemaal opgelegde sturende algoritmes met daaruit een profilering (het cijfer) met grote gevolgen voor de toekomst.
EVRM: https://fra.europa.eu/nl/eu-charter/article/14-het-recht-op-onderwijs
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.