image

Kabinet werkt aan verbod op gebruik van ChatGPT door ambtenaren

donderdag 16 november 2023, 09:35 door Redactie, 6 reacties

Het kabinet werkt aan een verbod op het gebruik van ChatGPT en andere generatieve AI-software door rijksambtenaren. Aanleiding is een conceptvoorstel van de Autoriteit Persoonsgegevens en landsadvocaat Pels Rijcken dat niet gecontracteerde generatieve AI-toepassingen over het algemeen niet aantoonbaar aan de AVG en auteursrechtelijke wetgeving voldoen. De Volkskrant kreeg het conceptvoorstel in handen.

Het verbod gaat waarschijnlijk niet gelden voor AI-toepassingen waarbij de overheid een contract met de aanbieder afsluit. Generatieve AI-software, zoals ChatGPT en Bard, zijn vaak getraind met content waarop auteursrechten berusten. Daarnaast zijn er privacyzorgen. Zo kan een generatieve AI-toepassing zeer gevoelige informatie afleiden uit de interactie met de gebruiker, aldus demissionair staatssecretaris Van Huffelen van Digitalisering in het conceptvoorstel.

De ministerraad zal de nota binnenkort bespreken. Wanneer die akkoord gaat zal het verbod niet alleen voor overheidsdiensten gaan gelden, maar ook voor hun leveranciers. Een woordvoerder van het ministerie van Binnenlandse Zaken, waaronder Digitale Zaken valt, wilde niet inhoudelijk tegenover de Volkskrant op het voorstel reageren en kon ook niet vertellen wanneer het precies in de ministerraad wordt besproken.

Reacties (6)
16-11-2023, 12:37 door Anoniem
Oh, sijpelt er dan toch soms nog wat ongewenste waarheid door via AI-bots.
Ik kan er geen kwalijk woord over zeggen - AI is net-neutraal en dat is veel waard.

Als je er anders instaat, dan is dat een kwalijke zaak.
En dat in ons Nederland van november 2023.
Bijna Sinte-Katrijn en dan gaan de koeien aan de lijn.

Als is de overheidsleugen nog zo snel, de AI bot achterhaalt haar wel.
Het overeenkomstig gebruikte Slavische spreekwoord luidt: "Leugens hebben korte beentjes".

Wat moeten we toch blij zijn met wat op Digitale Zaken zit.
Helemaal voor het burgerbelang, toch? ;)
of liever maar niets aan het AI-bot-toeval overlaten?
16-11-2023, 14:57 door Anoniem
Interessant. Mogen overheidsaanbieders nog wel een zoekmachine gebruiken voor hun werk? Of een boek als naslag gebruiken?
Mogen we nog kennis delen, of is dat ook te gevaarlijk.
Ik hoop dat er een hoop context is die niet in dit artikel staat. Want AI gebruik is niet zwart/wit
16-11-2023, 15:46 door Anoniem
Zou er toch nog AI variatie mogen bestaan - de AI van Musk, de AI van Google, de AI van de unipolaire club
en die van de multipolaire BRICS club?

Wil men alleen vooraf goedgekeurd propaganda nieuws gedeeld zien online, bewaakt door de eigenEU- AI?

Je zou er wat van gaan denken, zo onderhand.

Toont wel aan dat eigen richting qua meningsuiting niet erg lang meer getolereerd zal/kan worden.

Zien we wel in welke richting dit zich beweegt?
16-11-2023, 22:42 door Anoniem
AI kan wel eens tot vernieuwende ideeën leiden.
Maar misschien willen de toezichthouders
en 'bovenbazen' dat helemaal niet?

Ik heb maar steeds in de veronderstelling geleefd,
dat de overheid er in de eerste plaats is voor de burgers.
Burgers waren samen die overheid, toch?

Nu blijkt dat toch een van de grootste misvattingen te zijn.

Het gaat dus over een reeks van hele andere zaken.

U kunt ze vast zelf verzinnen,
als u niet onder een steen geleefd heeft.
Of is dat alleen maar mijn visie?
17-11-2023, 08:07 door Anoniem
Ik denk dat het vooral de bedoeling is dat ambtenaren onze data niet zonder nadenken in een lerende AI stoppen, waarmee die data er ooit weer uitkomt op een onhandige manier.

Dat geld dan uiteraard ook voor zoekmachines en vergelijkbare zaken.

Maar als je een closed-box omgeving hebt waar je een AI-model instopt dat niet lerend is, maar al wel slim genoeg om fijne antwoorden voor te zetten aan antwoorders, zoals een medische vraagbaak of een bezwaarschrift-beantwoorder, dan lijkt me dat dat prima kan.

https://www.computable.nl/artikel/nieuws/digital-innovation/7544975/250449/microsoft-lanceert-afgeschermde-versie-van-chatgpt.html
lijkt me een prima antwoord op de bezwaren. Zeker als die omgeving dan ook nog eens in europa draait.
17-11-2023, 08:32 door Drs Security en Privacy
Wordt nog interessanter als dit er door komt gezien de hele rijksoverheid draait op Microsoft producten die inmiddels zo doorspekt zijn met AI dat het bijna niet meer te ontlopen is.
Zelfs op LinkedIn krijg je al de vraag of je je post wil laten genereren bij het reposten van iemand anders zijn/haar, hopelijk authentiek, geschreven werk met een even zo authentiek reactie.
Oh wacht, dat is gecontracteerd toch?
Maar uhh, de basis is toch zo goed als identiek aan die van ChatGPT?
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.