Generatieve AI-systemen zoals ChatGPT, Bard en Midjourney zijn in beginsel verboden voor rijksambtenaren als er een risico is dat wetgeving wordt overtreden, tenzij zowel aanbieder als gebruiker kunnen aantonen dat ze aan geldende wet- en regelgeving voldoen. Dat heeft demissionair staatssecretaris Van Huffelen van Digitalisering laten weten. Volgens de bewindsvrouw voldoen niet-gecontracteerde generatieve AI-toepassingen zoals ChatGPT, Bard en Midjourney, over het algemeen niet aantoonbaar aan de geldende privacy- en auteursrechtelijke wetgeving.

Het kabinet heeft een voorlopig standpunt gepresenteerd over het gebruik van generatieve AI door Rijksorganisaties (pdf). Daarin staat dat alle gebruikte generatieve AI-toepassingen moeten voldoen aan geldende wet- en regelgeving. Om vast te stellen welke specifieke vorm van inzet van generatieve AI wel of niet mogelijk is, moet vooraf aan het gebruik ervan per uniek geval een risicoanalyse worden uitgevoerd.

Het gaat dan om een (pre-scan) Data Protection Impact Assessment en een algoritme impact assessment, waarin de risico’s en risicobeperkende maatregelen worden vastgesteld. De uitkomsten hiervan moeten vooraf aan het gebruik ter advies aan de Chief Information Officer en de Functionaris Gegevensbescherming worden voorgelegd. Deze regels gelden ook bij het gebruik of (door)ontwikkelen van een open source generatieve AI-toepassingen.

"Niet-gecontracteerde generatieve AI-toepassingen zoals ChatGPT, Bard en Midjourney, voldoen over het algemeen niet aantoonbaar aan de geldende privacy- en auteursrechtelijke wetgeving. Zodoende is het gebruik hiervan door Rijksorganisaties (of in opdracht daarvan) in beginsel niet toegestaan, in die gevallen waarin het risico bestaat dat wetgeving wordt overtreden, tenzij de aanbieder en de gebruiker aantoonbaar voldoen aan de geldende wet- en regelgeving", aldus Van Huffelen.

De staatssecretaris laat weten dat het voorlopige standpunt van het kabinet geen categorisch verbod van de technologie is, maar geldende wet- en regelgeving herhaalt. "Het gebruik wordt niet ontzegd, maar gekaderd. Zo blijft het mogelijk te experimenteren met de technologie." Het ministerie van Binnenlandse Zaken gaat het standpunt nu communiceren binnen de Rijksoverheid en wordt er overlegd met aanbieders om de mogelijkheden te onderzoeken om individueel gebruik van generatieve AI in de huidige zakelijke werkomgeving verantwoord aan te bieden.

Tevens komt er een ‘Handreiking voor Rijksorganisaties bij het gebruik van generatieve AI' zodat Rijksorganisatie generatieve AI verantwoord inzetten en zullen er trainingen plaatsvinden. "Dat een overheid aan eigen instanties vraagt zich aan de wet te houden is eigenlijk geen nieuws. AI, en zeker generatieve AI, is een technologie die volop in ontwikkeling is. Daarom zeggen we voorlopig, voer risicoanalyses uit, hou je aan de wet en wees voorzichtig", laat Van Huffelen weten.