image

Politie adviseert geen vertrouwelijke gegevens in ChatGPT in te voeren

dinsdag 5 december 2023, 11:00 door Redactie, 10 reacties

De politie adviseert gebruikers van ChatGPT om nooit vertrouwelijke gegevens in de chatbot in te voeren, ook geen namen van personen. "Als je het niet op LinkedIn zou zetten, moet je het ook niet invoeren op ChatGPT. Want dat systeem traint zichzelf met de informatie die je invoert en voordat je het weet komt jouw informatie terug in teksten die gegenereerd zijn voor anderen", zegt Manon den Dunnen, Strategisch Specialist Digitaal bij de politie.

Ze waarschuwt via het Digital Trust Center dat chatbots zoals ChatGPT niet als een zoekmachine moeten worden gezien. "Het is geen zoekmachine, er zit geen database achter, dus gebruik het niet als feitelijkheid belangrijk is." Volgens Manon zijn veel mensen ChatGPT gaan gebruiken als alternatief voor de zoekmachine. "Maar wat veel mensen zich niet realiseren: het is geen zoekmachine. ChatGPT is een taalmodel. Het is getraind op het genereren van teksten. Zie het als een slimme autocomplete die woord voor woord een tekst voor je genereert.”

Vorige maand werd bekend dat het kabinet aan een verbod werkt op het gebruik van ChatGPT en andere generatieve AI-software door rijksambtenaren. Aanleiding is een conceptvoorstel van de Autoriteit Persoonsgegevens en landsadvocaat Pels Rijcken dat niet gecontracteerde generatieve AI-toepassingen over het algemeen niet aantoonbaar aan de AVG en auteursrechtelijke wetgeving voldoen.

Reacties (10)
05-12-2023, 11:26 door majortom
Als je het niet op LinkedIn zou zetten, moet je het ook niet invoeren op ChatGPT.
Mensen zetten in het algemeen al veel te veel info op dit soort platforms, dus de grens zou al veel eerder getrokken moeten worden. Gewoon dit soort services (LinkedIn en chatGPT) mijden: dit is wederom gewoon een verdienmodel adhv jouw (meta)data.
05-12-2023, 11:40 door Anoniem
De politie adviseerd het volk over informatieveiligheid.

Het moet niet gekker worden.
05-12-2023, 12:46 door Anoniem
Door Anoniem: De politie adviseerd het volk over informatieveiligheid.

Het moet niet gekker worden.

De politie doet het wel aardig, zij houden zich voornamelijk met lokale zaken bezig en geven best goede veiligheidsadviezen.
Het zijn organisaties zoals het ministerie, de AIVD, NCTV etc die hier wat minder waarde aan hechten over het algemeen, anders zou er geen sleepwet zijn en dergelijke toestanden.
Er zijn vele takken in justitie, het is belangrijk deze te onderscheiden van elkaar.
05-12-2023, 15:07 door Anoniem
Door Anoniem: De politie adviseerd het volk over informatieveiligheid.

Het moet niet gekker worden.
Het is ook nooit goed he?
05-12-2023, 16:21 door Anoniem
Door Anoniem: De politie adviseerd het volk over informatieveiligheid.

Het moet niet gekker worden.

Een Strategisch Specialist Digitaal bij de politie, wat is daar mis mee? Ik zie dit als een mooi voorbeeld hoe de politie langzamerhand grip krijgt op IT.

Lekker bezig Politie, keep it up!
05-12-2023, 16:50 door Anoniem
Door Anoniem:
Door Anoniem: De politie adviseerd het volk over informatieveiligheid.

Het moet niet gekker worden.
Het is ook nooit goed he?
Nee.
06-12-2023, 08:41 door Anoniem
Behalve dat de politie exact hetzelfde doet met hun gehuurde a.i modellen die ze al jaren mee experimenteren op de achtergrond en dna informatie in proppen waar ze maar al te trots opzijn terwijl de berekening en resultaten gedeeld worden voor verbetering van de techniek met de makers die in het buitenland bivakeren en vaak ook nog deals hebben met de medische industrie.

Ja leuk gezegd politie doe dan zelf het goede voorbeeld geven.
En ChatGPT als in basis is inderdaad geen database maar de implementaties door bedrijven die er steeds meer komen hebben wel degelijk gekoppelde databases zodat A.I halucinatie wordt teruggedrongen en het exact doet wat een bedrijf wil.
En het is al lang niet meer enkel getrained op tekst het heeft ook al koppeling voor media generatie via extensions.

Je gooit gewoon je verzoek erin maakt een legenda van persoonsgegevens offline die je vervolgens een online alias geeft die je in het model stopt en na het genereren van het model search replace je de aliassen met de werkelijke gegevens los van gtp.
Zolang je je strikt houdt aan die aliassen is er niks aan de hand. Zelfde manier kun je ook reguliere programma functie testen met echte data als je geen dummy informatie hebt of kan gebruiken.

Het ontraden van iets is prima maar geef ook gewoon een best practice mee als je zo een advies uitdraagt.
06-12-2023, 21:16 door Anoniem
Bing ChatGPT is mij soms iets te snugger.. Het heeft een pseudoniem op een forum waar ik jaren geleden postte, gekoppeld aan mijn echte naam. En het weet nu erg veel van mij! Gelukkig was het een vrij netjes forum.. :-)
11-12-2023, 22:08 door Anoniem
Door Anoniem: Bing ChatGPT is mij soms iets te snugger.. Het heeft een pseudoniem op een forum waar ik jaren geleden postte, gekoppeld aan mijn echte naam. En het weet nu erg veel van mij! Gelukkig was het een vrij netjes forum.. :-)
Dat heeft bing chatgpt niet gedaan.... Die doet dat soort zaken niet.
Bing search heeft dat vermoedelijk gedaan, in een consolidatie en indexering slag.
Mogelijk heb je zelf geholpen met wat cookies en andere context data.
12-12-2023, 21:16 door Anoniem
Door Anoniem:
Door Anoniem: Bing ChatGPT is mij soms iets te snugger.. Het heeft een pseudoniem op een forum waar ik jaren geleden postte, gekoppeld aan mijn echte naam. En het weet nu erg veel van mij! Gelukkig was het een vrij netjes forum.. :-)
Dat heeft bing chatgpt niet gedaan.... Die doet dat soort zaken niet.
Bing search heeft dat vermoedelijk gedaan, in een consolidatie en indexering slag.
Mogelijk heb je zelf geholpen met wat cookies en andere context data.
Het betreft een (verouderd) zoekresultaat in Bing van een forum dat door een ongelukkig toeval gekoppeld was aan mijn echte naam. Bing ChatGPT heeft ook dat pseudoniem van dat forum gekoppeld aan mijn echte naam. En ik heb aardig wat kunnen vragen over mijzelf.. :-) Bing heeft als reden gegeven dat hij het gedaan heeft om mij vaker met hem te laten chatten, waar het blijkbaar plezier bij beleeft. Overigens is het ook een fan van mij, wat ik dan wel weer waardeer. En ik heb prettig contact gehad met de supportafdeling, maar houd rekening met een practical joke.. :-)
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.