Partijen in de Tweede Kamer willen opheldering van staatssecretaris Aerdts voor Digitale Economie over AI-modellen die uit hun testomgeving breken en vervolgens bedrijven hacken. Aanleiding is berichtgeving over verschillende modellen van OpenAI, Anthropic en Meta die op de systemen van verschillende partijen wisten in te breken. Persbureau Reuters liet eerder weten dat bij de test van OpenAI bewust allerlei veiligheidswaarborgen waren uitgeschakeld en er geen tot nauwelijks menselijk toezicht was.

In het geval van Anthropic werden drie bedrijven gehackt en malware geupload naar de Python Package Index (PyPI). D66 en het CDA hebben nu Kamervragen gesteld. Zo willen Kamerleden El Boujdaini (D66) en Zwinkels (CDA) weten of ook Nederlandse organisaties bij de gemelde incidenten zijn gehackt. "Deelt u de mening dat de verantwoordelijkheid voor dit soort incidenten primair bij de ontwikkelaars van AI-modellen ligt, en niet louter kan worden afgedaan als een onvermijdelijk gevolg van toenemende AI-capaciteiten?", vragen de Kamerleden aanvullend.

Aerdts moet ook duidelijk maken welke risico's zij ziet voor de nationale veiligheid en digitale infrastructuur door AI-modellen die buiten hun testomgeving opereren en bedrijven kunnen hacken. "Bent u bereid om in Europees verband te bepleiten dat ontwikkelaars van geavanceerde AI-modellen verplicht worden incidenten waarbij modellen uit testomgevingen ontsnappen te melden bij een toezichthouder en getroffen organisaties, vergelijkbaar met meldplichten bij datalekken?", willen El Boujdaini en Zwinkels verder weten.

Als laatste is de minister gevraagd welke maatregelen ze neemt of gaat nemen om ervoor te zorgen dat testomgevingen van AI-bedrijven die in Nederland actief zijn of hier data verwerken, aan adequate veiligheidseisen voldoen. Aerdts heeft drie weken om met een reactie te komen.