image

Chatbots ChatGPT en Bard in beginsel verboden voor rijksambtenaren

dinsdag 12 december 2023, 11:03 door Redactie, 10 reacties

Generatieve AI-systemen zoals ChatGPT, Bard en Midjourney zijn in beginsel verboden voor rijksambtenaren als er een risico is dat wetgeving wordt overtreden, tenzij zowel aanbieder als gebruiker kunnen aantonen dat ze aan geldende wet- en regelgeving voldoen. Dat heeft demissionair staatssecretaris Van Huffelen van Digitalisering laten weten. Volgens de bewindsvrouw voldoen niet-gecontracteerde generatieve AI-toepassingen zoals ChatGPT, Bard en Midjourney, over het algemeen niet aantoonbaar aan de geldende privacy- en auteursrechtelijke wetgeving.

Het kabinet heeft een voorlopig standpunt gepresenteerd over het gebruik van generatieve AI door Rijksorganisaties (pdf). Daarin staat dat alle gebruikte generatieve AI-toepassingen moeten voldoen aan geldende wet- en regelgeving. Om vast te stellen welke specifieke vorm van inzet van generatieve AI wel of niet mogelijk is, moet vooraf aan het gebruik ervan per uniek geval een risicoanalyse worden uitgevoerd.

Het gaat dan om een (pre-scan) Data Protection Impact Assessment en een algoritme impact assessment, waarin de risico’s en risicobeperkende maatregelen worden vastgesteld. De uitkomsten hiervan moeten vooraf aan het gebruik ter advies aan de Chief Information Officer en de Functionaris Gegevensbescherming worden voorgelegd. Deze regels gelden ook bij het gebruik of (door)ontwikkelen van een open source generatieve AI-toepassingen.

"Niet-gecontracteerde generatieve AI-toepassingen zoals ChatGPT, Bard en Midjourney, voldoen over het algemeen niet aantoonbaar aan de geldende privacy- en auteursrechtelijke wetgeving. Zodoende is het gebruik hiervan door Rijksorganisaties (of in opdracht daarvan) in beginsel niet toegestaan, in die gevallen waarin het risico bestaat dat wetgeving wordt overtreden, tenzij de aanbieder en de gebruiker aantoonbaar voldoen aan de geldende wet- en regelgeving", aldus Van Huffelen.

De staatssecretaris laat weten dat het voorlopige standpunt van het kabinet geen categorisch verbod van de technologie is, maar geldende wet- en regelgeving herhaalt. "Het gebruik wordt niet ontzegd, maar gekaderd. Zo blijft het mogelijk te experimenteren met de technologie." Het ministerie van Binnenlandse Zaken gaat het standpunt nu communiceren binnen de Rijksoverheid en wordt er overlegd met aanbieders om de mogelijkheden te onderzoeken om individueel gebruik van generatieve AI in de huidige zakelijke werkomgeving verantwoord aan te bieden.

Tevens komt er een ‘Handreiking voor Rijksorganisaties bij het gebruik van generatieve AI' zodat Rijksorganisatie generatieve AI verantwoord inzetten en zullen er trainingen plaatsvinden. "Dat een overheid aan eigen instanties vraagt zich aan de wet te houden is eigenlijk geen nieuws. AI, en zeker generatieve AI, is een technologie die volop in ontwikkeling is. Daarom zeggen we voorlopig, voer risicoanalyses uit, hou je aan de wet en wees voorzichtig", laat Van Huffelen weten.

Reacties (10)
12-12-2023, 11:44 door Anoniem
Dit had al maanden eerder gekund.

Daarnaast, waarom maken ze wanbeleid door de overheid niet eens verboden?
12-12-2023, 13:43 door Anoniem
Ze zouden beter eens de regels voor het behoud van privacy en anonimiteit,
zowel voor ambtenaren en burgers, flink aanscherpen.

In een corporatocracie valt dat voor hen niet mee.
Ze willen slechts voor zichzelf een bevoorrechte positie.

Alweer vergeten, dat een overheid van ons allemaal en voor ons allemaal is.
Maar het is weer: "Wiens brood men eet, diens woord men spreekt".
12-12-2023, 14:17 door Anoniem
Als ik het dus goed begrijp is het standpunt dat bij Rijksorganisaties voor elke werkgerelateerde AI prompt er een (pre) DPIA uitgevoerd moet worden? Hoe verwachten zij dat dit ooit haalbaar is om te controleren (je kunt immers gewoon je chats verwijderen) of laat staan uit te voeren. Ambtenaren komen om in het werk waardoor veel externe bureaus in worden gehuurd en komt dit er ook nog even bij. Wat een flauwekul.
12-12-2023, 15:20 door Anoniem
Volgens de bewindsvrouw voldoen niet-gecontracteerde generatieve AI-toepassingen zoals ChatGPT, Bard en Midjourney, over het algemeen niet aantoonbaar aan de geldende privacy- en auteursrechtelijke wetgeving.
Nou en, de overheid toch ook niet? /sarcasme
12-12-2023, 18:28 door Anoniem
Nou benieuwd hoe ze de laatste updates van Windows en office (Copilot) willen omgaan aangezien daar ook AI inzit…
12-12-2023, 20:31 door Anoniem
Bij ons al ruim een jaae verboden, inmiddels een eigen oplossing.
13-12-2023, 00:28 door Anoniem
Volgens mij zit AI ook in Google's GBoard.
Kan iemand dat voor mij bevestigen?

#laufer
13-12-2023, 08:41 door Anoniem
Door Anoniem: Nou benieuwd hoe ze de laatste updates van Windows en office (Copilot) willen omgaan aangezien daar ook AI inzit…
Goed lezen, het gaat over niet gecontracteerde-AI. De overheid heeft met Microsoft een contract, dus dat valt er niet onder.
14-12-2023, 11:33 door Anoniem
Ik vraag me af of dit verbod op ChatGPT en Bard voor rijksambtenaren dan ook geldt voor vergelijkbare AI-systemen zoals Claude, Anthropic, Perplexity.ai? En toegang tot LLM modellen via huggingface of offline modellen zoals met Ollama? Daarnaast is er ook de API van OpenAI en Microsoft Azure die gebruikt kan worden voor GPT. En het europese Mistral?

De redenering lijkt te zijn dat deze systemen niet voldoen aan privacy- en auteursrecht, maar is dit wel zo zwart-wit?
Perplexity.ai biedt altijd bronnen van de geboden informatie. En de OpenAI API heeft strikte gebruiksvoorwaarden. Kunnen deze systemen dan ook worden verboden zonder concrete onderbouwing waarom ze niet voldoen?

Inmiddels zijn er wat rechters die over auteursrecht uitspraak hebben gedaan, Deze uitspraken waren vooral in het nadeel van de klagende partij.

Men lijkt echt de plank mis te slaan door het kind met het badwater weg te gooien. Zo mist men potentieel nuttige innovaties, of zal in ieder geval flink achterop raken.
Een genuanceerder standpunt waarin educatie wordt geboden en geëxperimenteerd kan worden met AI onder voorwaarden lijkt me beter.
Wat denken jullie?
16-12-2023, 19:07 door Anoniem
Ik denk dat AI eventueel in conflict kan komen met de politieke waan van de dag
en dat men er daarom ambtelijk vrij van wil blijven.

Meestal worden er gelegenheidsargumenten gebruikt.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.