Generatieve AI, zoals ChatGPT, zet grondrechten op het spel, zo stellen de Noorse consumentenbond en veertien andere consumentenorganisaties uit de EU en VS. Generatieve AI maakt het eenvoudig om tekst, afbeeldingen, audio en video te genereren die vergelijkbaar zijn met door mensen gemaakte content. Inmiddels zijn dergelijke diensten al in allerlei producten geïntegreerd.

Volgens de Noorse consumentenbond Forbrukerråde brengt het gebruik van generatieve AI ook een aantal uitdagingen voor gebruikers met zich op het gebied van privacy, manipulatie, persoonlijke integriteit, fraude en desinformatie. Het gaat dan bijvoorbeeld om het onrechtmatig gebruik van persoonsgegevens voor het trainen van chatbots, maar ook het trainen met datasets die tot bevooroordeeldheid of discriminatie kunnen leiden of het uitoefenen van rechten onder de AVG, zoals het recht op vergetelheid.

"We moeten ervoor zorgen dat de ontwikkeling en het gebruik van generatieve kunstmatige intelligentie veilig, betrouwbaar en eerlijk is. Helaas heeft de geschiedenis ons geleerd dat we de techreuzen niet kunnen vertrouwen om dit zelf op te lossen", zo stelt de Noorse consumentenorganisatie. Forbrukerråde deed onderzoek naar de risico's van generatieve AI en heeft de bevindingen in een rapport, genaamd "Ghost in the machine - Addressing the consumer harms of generationative AI", naar nationale en Europese autoriteiten en toezichthouders gestuurd (pdf).

In het rapport staan ook verschillende aanbevelingen en eisen om veilig, betrouwbaar en eerlijk gebruik van generatieve AI te waarborgen. Zo vindt de consumentenorganisatie dat toezichthouders huidige wet- en regelgeving moeten handhaven. Ook moeten toezichthouders voldoende middelen krijgen m de ontwikkelingen te volgen en toezicht te houden op de bedrijven die AI gebruiken.

Verder stellen de consumentenorganisaties die zich bij het rapport van Forbrukerråde aansluiten dat mensen geen "proefkonijn" mogen zijn voor nieuwe technologie en dat nationale AI-strategieën basisrechten centraal moeten stellen. Als laatste wordt gepleit voor het opstellen van wetgeving die de rechten van mensen waarborgt in gevallen waar bestaande wetgeving tekort schiet.

"AI biedt consumenten talloze mogelijkheden, dus wij zijn niet tegen AI of generatieve AI. Maar transparantie moet de basis zijn. Consumenten moeten weten wanneer ze met AI te maken hebben en waar ze verhaal kunnen halen als ze nadeel ondervinden van AI", zegt Sandra Molenaar, directeur van de Nederlandse Consumentenbond. "Daarnaast hebben we de Autoriteit Consument & Markt en de Autoriteit Persoonsgegevens gevraagd een onderzoek in te stellen naar de risico's en schade die generatieve AI diensten opleveren voor consumenten."