De Autoriteit Persoonsgegevens maakt zich zorgen over de 'rat race' tussen bigtechbedrijven die snel dominant op de AI-markt willen worden, waardoor kwaliteitsstandaarden en risicobeheersing onder druk staan. Daarnaast moet onzorgvuldige experimenteerdrift worden tegengegaan. Dat schrijft de privacytoezichthouder in de vandaag verschenen 'Rapportage AI- & Algoritmerisico’s Nederland'. Als AI-toezichthouder analyseert de AP elk halfjaar de risico’s rond AI-systemen en brengt hier advies over uit.

De AP analyseerde onder meer de risico’s van AI voor online informatievoorziening, zoals nieuws. "Via de AI-systemen achter sociale media en zoekmachines hebben die platforms veel macht over welke informatie mensen te zien krijgen en hoe hun beeld van de werkelijkheid eruitziet", aldus de toezichthouder. Die stelt dat de infrastructuur van AI grotendeels in handen is van een kleine groep bedrijven. Ook de ‘opiniemacht’ die deze bedrijven hebben neemt toe.

"Daarom is het belangrijk dat mensen begrijpen hoe aanbevelingssystemen werken, en dat zij de kans krijgen het systeem uit te zetten of aan te passen. Daarnaast moeten mensen de juistheid van informatie kunnen controleren. Bijvoorbeeld door in AI-zoekmachines ook de bronnen van antwoorden te tonen", zo laat de AP weten. De toezichthouder stelt dat iedereen waakzaam moet zijn op de risico's van AI. "Want het is moeilijk in te schatten of AI-toepassingen voldoende beheerst zijn en AI-incidenten kunnen zich steeds vaker voordoen, zeker omdat AI zich steeds dieper verweeft in de samenleving."