De Autoriteit Persoonsgegevens (AP) en de Rijksinspectie Digitale Infrastructuur (RDI) hebben het demissionaire kabinet gevraagd om toezicht op AI-systemen te regelen. Zo moet snel duidelijk worden welke instanties de verschillende delen van het toezicht gaan uitvoeren en moet er ook op tijd voldoende budget en personeel beschikbaar zijn voor alle betrokken toezichthouders. Zodat zij op tijd kunnen beginnen aan hun taken, zoals voorlichting en handhaving.

Het verzoek van de AP en RDI staat in een advies aan het kabinet dat is opgesteld in samenwerking met de andere twintig toezichthouders die mogelijk een rol gaan spelen bij het AI-toezicht. Vorige maand stemden de Europese ministers in met de AI-verordening, die regelt dat AI-systemen met een hoog risico alleen aangeboden en gebruikt mogen worden als ze aan bepaalde eisen voldoen. Die systemen krijgen dan een zogeheten CE-markering, zoals ook al jaren verplicht is voor bijvoorbeeld liften, mobiele telefoons en speelgoed.

De AP en de RDI adviseren het toezicht op AI in de verschillende sectoren zoveel mogelijk te laten aansluiten bij het reguliere markttoezicht dat al bestaat. Het toezicht op AI-producten met een hoog risico die nu ook al een CE-markering nodig hebben, kan dan hetzelfde blijven. Zo blijft de Nederlandse Voedsel- en Warenautoriteit (NVWA) bijvoorbeeld speelgoed keuren, ook als er AI in verwerkt zit. En de Inspectie Gezondheidszorg en Jeugd (IGJ) gaat ook toezichthouden op de AI in medische apparaten.

De AP wil toezicht gaan houden op AI-toepassingen met een hoog risico waarvoor nu nog géén CE-markering verplicht is, in aanvulling op toezicht dat al in de sector plaatsvindt. Er worden echter twee uitzonderingen voorgesteld. Wat betreft de financiële sector zullen de Autoriteit Financiële Markten (AFM) en De Nederlandsche Bank (DNB) het markttoezicht op zich nemen, de Inspectie Leefomgeving en Transport (ILT) en de RDI voor de kritieke infrastructuur.

Verder moet het markttoezicht op AI-systemen die worden gebruikt voor de rechtspraak zodanig worden ingericht dat de onafhankelijkheid van rechterlijke autoriteiten is gewaarborgd. "Het is belangrijk dat niet alleen in Nederland, maar ook in andere lidstaten snel toezichthouders worden aangewezen", zo adviseren de toezichthouders. Voor grensoverschrijdende en grote AI-systemen moet namelijk worden samengewerkt tussen toezichthouders uit de verschillende lidstaten en met het nieuwe Europese AI Office dat toezicht gaat houden op grote AI-modellen die bijvoorbeeld ten grondslag liggen aan ChatGPT.