Meerdere partijen in de Tweede Kamer willen opheldering van staatssecretaris Van Huffelen van Digitalisering over de nieuwe chatbot van Snapchat en roepen op tot wet- en regelgeving. Daarnaast wordt er ook gewezen naar het verbod van ChatGPT in Italië. Aanleiding is berichtgeving van het AD dat de chatbot van Snapchat met gebruikers wil afspreken. ChristenUnie, PvdA en SGP maken zich zorgen over de gevolgen die dit kan hebben voor jongeren.

"Bent u ervan op de hoogte dat My AI inspeelt op de behoeften en problemen van jongeren, waardoor jongeren eenzijdige input krijgen, wat gevaarlijk kan zijn voor de ontwikkeling van de jongeren?", zo willen Stoffer (SGP) en Drost (ChristenUnie) van de staatssecretaris weten. Van Huffelen moet ook duidelijk maken of ze ook vindt dat Snapchat met de chatbot een grens overschrijdt, omdat het zich voordoet als echt persoon, en of ze de zorgen herkent van onder meer 113 Zelfmoordpreventie en de Kindertelefoon dat er gevaarlijke situaties kunnen ontstaan voor jongeren.

"Vindt u ook dat technologische ontwikkelingen momenteel sneller gaan dan de kaders van wet- en regelgeving? Deelt u de mening dat dit geen wenselijke situatie is en dat idealiter vóór de introductie van nieuwe ingrijpende digitale technologieën een afweging is gemaakt over de maatschappelijke impact en of, en zo ja onder welke voorwaarden, dergelijke technologieën kunnen worden geïntroduceerd?", vragen Stoffer en Drost verder.

ChristenUnie en SGP vragen de staatssecretaris om nadere wet- en regelgeving voor nieuwe AI-producten. Ook wijzen de Kamerleden naar de beslissing van de Italiaanse privacytoezichthouder om ChatGPT te verbieden. "Kan het kabinet zich voorstellen dat ook in Nederland tot een dergelijke stap wordt overgegaan?", zo willen Drost en Stoffer weten.

De PvdA vraagt Van Huffelen of ze de mening deelt dat het zorgelijk is wanneer kinderen niet het onderscheid kunnen maken tussen een chatgesprek met een echt persoon en een chatgesprek met een chatbot. "Welke risico’s ziet de staatssecretaris in het feit dat kinderen die hulp zoeken omdat ze zich bijvoorbeeld eenzaam voelen, niet weten dat ze te maken hebben met een chatbot en niet met een echt persoon?", wil PvdA-Kamerlid Kathmann weten.

Volgens de PvdA is het belangrijk om de kennis over AI-chatbots onder kinderen te verhogen. De partij wil dat Van Huffelen duidelijk maakt welke rol zij hierin ziet weggelegd voor scholen en op welke manier het kabinet gaat zorgen dat scholen voldoende zijn toegerust om kinderen van deze kennis te voorzien. De staatssecretaris heeft drie weken om met een reactie te komen.