Het is onwenselijk als chatbots zich voordoen als echte mensen, zo vindt staatssecretaris Van Huffelen van Digitalisering. De staatssecretaris reageerde op Kamervragen van SGP, ChristenUnie en PvdA over de chatbot van Snapchat die zich voordeed als echt persoon. Inmiddels heeft Snapchat aanpassingen doorgevoerd waardoor de chatbot dit gedrag niet meer vertoont en duidelijk wordt vermeld dat het om een bot gaat.

"Ik vind het onwenselijk als een chatbot zich voordoet als echt persoon en kinderen voorstelt om af te spreken", stelt Van Huffelen. Snapchat liet de staatssecretaris weten dat de bot zich niet meer zo gedraagt. "Toch vind ik het kwalijk dat er bij de introductie van deze nieuwe functie in Snapchat onvoldoende rekening is gehouden met de impact die dit kan hebben op kinderen", merkt de staatssecretaris op.

Volgens Van Huffelen hoeft het geen probleem te zijn als kinderen met chatbots chatten, zolang het duidelijk is dat er wordt gechat met een programma en niet met een echt persoon. In de AI-verordening, waarover nog wordt onderhandeld,, staat dat aanbieders van AI-systemen ervoor moeten zorgen dat AI-systemen zoals chatbots, zo worden ontworpen dat gebruikers duidelijk wordt gemaakt dat ze met een programma communiceren.

Een ander belangrijk risico dat de staatssecretaris noemt is dat kinderen persoonsgegevens verstrekken aan een chatbot en deze gegevens vervolgens worden opgeslagen, verwerkt en worden gebruikt om kinderen te profileren. "Omdat kinderen vaak nog niet in staat zijn om een goede inschatting te maken van welke informatie ze beter wel of niet kunnen delen, hebben technologiebedrijven een belangrijke verantwoordelijkheid om daar geen misbruik van te maken en zich te houden aan de toepasselijke wet- en regelgeving", voegt Van Huffelen toe.