image

AP maakt zich zorgen over ChatGPT en vraagt ontwikkelaar om opheldering

woensdag 7 juni 2023, 13:58 door Redactie, 6 reacties

De Autoriteit Persoonsgegevens (AP) maakt zich zorgen over de verwerking van persoonsgegevens door ChatGPT en heeft ontwikkelaar OpenAI om opheldering gevraagd. De AP wil onder meer weten hoe OpenAI omgaat met persoonsgegevens bij het trainen van het onderliggende systeem. Volgens de toezichthouder maakten in Nederland alleen al in de eerste vier maanden na de lancering anderhalf miljoen mensen gebruik van de chatbot.

ChatGPT is gebaseerd op een geavanceerd taalmodel (GPT) dat is getraind met data. Daarbij kan data worden gebruikt die op internet staat of af afkomstig is van de vragen die mensen stellen. Het kan daarbij om persoonlijke informatie gaan. De AP wil van OpenAI weten of de vragen van mensen worden gebruikt om het algoritme te trainen, en zo ja, op welke manier.

Ook heeft de toezichthouder vragen over de manier waarop OpenAI persoonsgegevens van internet verzamelt en gebruikt. Verder maakt de Autoriteit Persoonsgegevens zich zorgen over informatie over mensen die ChatGPT ‘genereert’ door antwoorden te geven op vragen. De gegenereerde inhoud kan onnauwkeurig zijn, verouderd, onjuist, ongepast, beledigend, of aanstootgevend en kan een eigen leven gaan leiden. Of en zo ja hoe OpenAI die gegevens kan rectificeren of verwijderen, is onduidelijk.

De andere Europese privacytoezichthouders maken zich ook zorgen over ChatGPT en vinden een gezamenlijke aanpak noodzakelijk. De privacytoezichthouders in Europa hebben dan ook een ChatGPT-taskforce opgericht binnen hun samenwerkingsverband, de European Data Protection Board (EDPB), om informatie uit te wisselen en acties te coördineren.

"Generatieve AI, zoals het grote taalmodel artificiële intelligentie (AI) systeem ChatGPT, is een grensoverschrijdend fenomeen dat vraagt om een geharmoniseerde aanpak. Daarom hecht de AP grote waarde aan een effectief gezamenlijk optreden van de Europese privacytoezichthouders", liet minister Weerwind voor Rechtsbescherming onlangs weten De minister stelde dat hij erop vertrouwt dat de privacytoezichthouder in het kader van haar voorlichtende taak naar buiten zal treden over ChatGPT wanneer daartoe aanleiding bestaat.

Reacties (6)
07-06-2023, 15:29 door Anoniem
Gaat men er nu achter komen dat 'alles maar online' toch niet zo'n goed idee is? Op het moment dat het ook echt te vinden is? Goh...
07-06-2023, 21:31 door Anoniem
Dat is nog een beetje ponskaartendenken. En databases. Wat met die AI veel interessanter is, wanneer het iets zeker meent te weten terwijl het niet zo hoeft te zijn. En dat het loopt op oude data. Zo ben ik al twee jaar geleden van lievelingskleur veranderd. En wat weet die AI niet eens.

Als de AP nou eerst eens beter wordt in ervoor te zorgen dat AI's minder gemakkelijk gevoerd worden....

Ondertussen blijft mijn hobby om databases te voeren met informatie die wel klopt. Maar niet helemaal. Wat die AI nu al dement maakt. Je moet niet altijd geloven dat je wat moet als iemand zegt dat je wat moet.
08-06-2023, 09:19 door kloek8
Elke vorm van innovatie en verbetering die ze (overheid, politiek en gerelateerde organisaties) niet onder controle heeft of volledig begrijpt wordt meteen aan banden gelegd.

Ik heb zelf het idee dat chatGTP zichzelf al teveel beperkingen oplegt.
Dit soort applicaties/tools moet juist de ruimte krijgen om te groeien, anders wordt het straks puur een darkweb iets waarbij idd de kwaadaardige kant vooral ontwikkeld zal worden ipv de nuttige kant waar mensen echt iets aan hebben.

Heel leuk dat we nu met alles zo moeilijk doen over persoonsgegevens, maar volgens mij is de overheid zelf het grootste datalek dat we nog elke dag hebben, ga eerst dat oplossen voordat je andere lastig gaat vallen met zaken die je zelf niet eens kunt.
08-06-2023, 10:59 door Anoniem
Deze 'anoniem' maakt zich zorgen over de verwerking van persoonsgegevens door Autoriteit Persoonsgegevens en heeft de AP om opheldering gevraagd.

Echter nooit gekregen.
08-06-2023, 11:31 door Anoniem
ChatGPT is al in verwarring gebracht o.a. door woke gender opvattingen van heden.

Een jongeman van 8 die op school een inlegkruisje krijgt uitgereikt bijvoorbeeld.

Een AI-life matters beweging? U wil de knop toch niet omdraaien bij een intelligent bot?

Rare wereld waar we met z'n allen in komen te leven. Digi-hell on earth?
09-06-2023, 08:59 door nnsa
Dat kan de meneer van de AP wel vergeten. Na het zien van de VPRO Tegenlicht documentaire over AI is het een doos van Pandorra, maar dan volledig gesloten. Niemand weet wat er zich hier binnen afspeelt.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.