image

AI-chatbot beschuldigt onschuldige rechtbankverslaggever van misdrijven

vrijdag 23 augustus 2024, 16:47 door Redactie, 27 reacties

Microsofts AI-chatbot Copilot heeft een Duitse rechtbankverslaggever onterecht van allerlei misdrijven beschuldigd, waaronder kindermisbruik, fraude, diefstal en illegaal wapenbezit. Ook zou de man volgens de chatbot uit een psychiatrische kliniek zijn ontsnapt. De man was jarenlang voor allerlei kranten rechtbankverslaggever. Volgens het Duitse SWR heeft de AI-chatbot de verslaggever nu als dader bestempeld van de zaken waarover hij berichtte.

De verslaggever diende een klacht in wegens laster, maar die werd afgewezen omdat de overtreding niet door een echt persoon is begaan, aldus de uitleg van het openbaar ministerie van Tübingen. De privacytoezichthouder van Beieren stapte maanden nadat de verslaggever had geklaagd naar Microsoft. Daarop verdwenen de antwoorden van de AI-chatbot, maar die kwamen een paar dagen later weer terug. Ook gaf Copilot de adresgegevens en het telefoonnummer van de verslaggever.

In de gebruikersovereenkomst van Copilot staat dat Microsoft niet aansprakelijk is voor de antwoorden van de chatbot. De verslaggever heeft inmiddels een advocaat in de arm genomen, omdat hij vindt dat zijn persoonlijke rechten geschonden worden. AI-onderzoeker Laurens Naudts laat aan de NOS weten dat mensen voorzichtig moeten zijn met het gebruik van AI-chatbots als zoekmachine. "Het is belangrijk dat mensen zich bewust zijn van de risico's."

Reacties (27)
23-08-2024, 16:59 door majortom
Ook gaf Copilot de adresgegevens en het telefoonnummer van de verslaggever.
Dat neigt naar doxing door de chatbot.
In de gebruikersovereenkomst van Copilot staat dat Microsoft niet aansprakelijk is voor de antwoorden van de chatbot.
Dat kan Microsoft wel in de eigen gebruikersovereenkomst vermelden, maar als deze antwoorden ook bij derden terecht kunnen komen is de enige die aansprakelijk is gewoon Microsoft. Lekker makkelijk om je hierachter te verschuilen, dan kan alle misdaad achter zo'n overeenkomst worden gestopt en kan iedereen zeggen: ik was het niet, het was de bot.
Kijk, dit is nu vooruitgang! Intelligente vooruitgang.

Geen halve maatregelen, maar hup! gewoon een rechtbankverslaggever voor de bus gooien.

Heeft die wakkere AI-chatbot trouwens al vermeld* dat deze verslaggever niet gevaccineerd was?

Zou wel moeten, want het past statistisch gezien in het patroon.

M.J.

*vermeld = gehallucineerd
23-08-2024, 17:05 door Anoniem
AI-onderzoeker Laurens Naudts laat aan de NOS weten dat mensen voorzichtig moeten zijn met het gebruik van AI-chatbots als zoekmachine. "Het is belangrijk dat mensen zich bewust zijn van de risico's."
Vertel dat de rechters bij de rechtbank. Die denken dat het handig is. Overigens wel fijn dat ze erbij hadden gezecht dat ze AI gebruikt hadden
23-08-2024, 17:07 door Anoniem
Overheden die code willen reguleren... Code is als vrije spraak.

https://www.eff.org/deeplinks/2015/04/remembering-case-established-code-speech/

Mark Zuckerberg Is Unironically Based Now
https://youtu.be/lJ_NRIKbRKc

We Need To Stop OpenAI
https://youtu.be/XyiTDbKndNM

Don't use AI companions apps!
https://youtu.be/6uwVNufVnD8

Do NOT trust Apple Intelligence!
https://youtu.be/6YbeGjnqEZ8
23-08-2024, 17:19 door Anoniem
Door EersteEnigeEchte M.J. - EEEMJ: Kijk, dit is nu vooruitgang! Intelligente vooruitgang.
*vermeld = gehallucineerd

Ik zie wel vaker die term gebruikt worden, maar feitelijk is alles wat AI te berde brengt niet gebaseerd op feiten maar op waarschijnlijkheid (probability) in een AI model. Niets wat AI 'zegt' kan als waarheid worden aangenomen omdat AI dat helemaal niet 'weet'.
23-08-2024, 17:26 door EersteEnigeEchte M.J. - EEEMJ - Bijgewerkt: 23-08-2024, 17:28
Door Anoniem:
AI-onderzoeker Laurens Naudts laat aan de NOS weten dat mensen voorzichtig moeten zijn met het gebruik van AI-chatbots als zoekmachine. "Het is belangrijk dat mensen zich bewust zijn van de risico's."
Vertel dat de rechters bij de rechtbank. Die denken dat het handig is. Overigens wel fijn dat ze erbij hadden gezecht dat ze AI gebruikt hadden
Risico's voor wie? Voor de gebruiker? Of ook voor mensen die zelf totaal geen gebruik maken van zo'n AI-chatbot? Je loopt gezellig over straat en plotseling word je klemgezet door gangsters die menen een appeltje met jou te schillen te hebben. Of door de pliesie die meent dat jij iets hebt gedaan en die hun bronnen niet helemaal precies hebben gecheckt.

Door Anoniem:
Door EersteEnigeEchte M.J. - EEEMJ: Kijk, dit is nu vooruitgang! Intelligente vooruitgang.
*vermeld = gehallucineerd

Ik zie wel vaker die term gebruikt worden, maar feitelijk is alles wat AI te berde brengt niet gebaseerd op feiten maar op waarschijnlijkheid (probability) in een AI model. Niets wat AI 'zegt' kan als waarheid worden aangenomen omdat AI dat helemaal niet 'weet'.
Aha! Nu snap ik het!

M.J.
23-08-2024, 17:30 door Anoniem
Wat maakt dat nou uit? Mensen maken toch ook fouten, …
Ja ja, het zal je maar overkomen en we gaan dit vaker zien.
23-08-2024, 19:00 door Anoniem
Ik vrees dat het type persoonsbeschrijvingen die co-pilot (wat een naam) genereert, in de nabije toekomst door mensen beoordeeld worden als een vorm van humor. Wellicht dat het daar ook voor ontworpen is, als bron van vermaak.
23-08-2024, 19:38 door Anoniem
"In de gebruikersovereenkomst van Copilot staat dat Microsoft niet aansprakelijk is voor de antwoorden van de chatbot."

Het is een kwestie van tijd tot een of ander natiestaatje wettelijk toestaat dat een AI een rechtspersoon is, bankrekeningen heeft en juridische handelingen kan verrichten. Onder welk AI regime wilt u wonen? Geeft dat vage begrip omvolking toch weer een nieuwe dimensie.
23-08-2024, 20:33 door Anoniem
Door Anoniem: Vertel dat de rechters bij de rechtbank. Die denken dat het handig is. Overigens wel fijn dat ze erbij hadden gezecht dat ze AI gebruikt hadden
Dat een rechter dat heeft gedaan betekent gelukkig niet meteen dat alle rechters zo stom zijn.
23-08-2024, 20:35 door Anoniem
"AI" (speelgoedsoftware in experimentele fase) zegt zoveel, als ik op het 4chan forum bekijk kunnen dr@llen vliegen.
Who cares, it's the internet.
Live with it.
Als ik mijn AI wil vragen iets te zeggen doet die dat ook.
Gisteren liep dat ding nog te ijlen dat mijn huis voorbij vloog... Dus VLOOG!!! Lol!
Het is eerder stom dat iemand besluit zo'n AI serieus te nemen en er tegen te propaganderen door het een slechte naam te geven omdat dat ding liep te ijlen.
Zoals de video's van anoniem 17:07 al lieten zien willen officials AI een slechte naam geven om er een alleenrecht op te krijgen. Het zou "te gevaarlijk" voor het volk zijn. En dan te bedenken dat dezelfde AI gevoed is met openbare info van oa. Google, ook Google weghalen, dat is immers gevaarlijk! Toch...?
23-08-2024, 20:42 door Anoniem
Grappig dat als een AI zo slecht zou zijn overheden er zo geïnteresseert in zijn, is het dan tóch betrouwbaar? Het zou toch niet..?
Gewoon een plakkertje bij plakken dat je dat ding niet serieus moet nemen, probleem opgelost.
Misschien ook bij een game een plakkertje plakken dat je die niet serieus moet nemen, of een film?
Misschien nog een keer vragen, dan zegt die waarschijnlijk het tegenovergestelde over die rechter, de antwoorden zijn vaak onwillekeurig, dat hebben ze waarschijnlijk niet geprobeert uit gemakzucht, nu hebben ze hun angstpropaganda.
Grappig dat de EU steeds meer propaganda uitspuwt, we moeten een beetje letten op dit soort bangmakerij.
24-08-2024, 00:31 door Anoniem
Het is een kwestie van tijd (volgende generatie) dat AI menselijke eigenschappen wordt toegedicht, net zoals mensen gewoon zijn dat bij dieren te doen (antropomorf). Het juridische gevolg (net zoals dat nu gaande is mbt dierenrechten) zal niet uitblijven.
24-08-2024, 01:19 door Anoniem
Door Anoniem: "AI" (speelgoedsoftware in experimentele fase) zegt zoveel, als ik op het 4chan forum bekijk kunnen dr@llen vliegen.
Who cares, it's the internet.
Live with it.
Als ik mijn AI wil vragen iets te zeggen doet die dat ook.
Gisteren liep dat ding nog te ijlen dat mijn huis voorbij vloog... Dus VLOOG!!! Lol!
Het is eerder stom dat iemand besluit zo'n AI serieus te nemen en er tegen te propaganderen door het een slechte naam te geven omdat dat ding liep te ijlen.
Zoals de video's van anoniem 17:07 al lieten zien willen officials AI een slechte naam geven om er een alleenrecht op te krijgen. Het zou "te gevaarlijk" voor het volk zijn. En dan te bedenken dat dezelfde AI gevoed is met openbare info van oa. Google, ook Google weghalen, dat is immers gevaarlijk! Toch...?

In Nederland experimenteert de politie en rechterlijke macht ook met AI. Als een natiestaat AI rechtspersoonlijkheid zou toekennen -iets dat niet onvoorstelbaar is- dan zou dat in de ogen van ons levend in 2024, tot vreemde procesgang, procestukken en rechterlijke uitspraken leiden.
24-08-2024, 09:02 door Anoniem
Schandalig, je kunt nog beter met Epstein bevriend zijn geweest dan journalist zijn.
24-08-2024, 12:40 door Anoniem
Door Anoniem: In Nederland experimenteert de politie en rechterlijke macht ook met AI

Gelderse kantonrechter gebruikt ChatGPT in vonnis over zonnepanelen: over de zogeheten ‘Googelende rechter’
vrijdag 2 augustus 2024, 14:43 door Redactie

https://www.security.nl/posting/852488/Gelderse+kantonrechter+gebruikt+ChatGPT+in+vonnis


Door Anoniem: Niets wat AI 'zegt' kan als waarheid worden aangenomen omdat AI dat helemaal niet 'weet'.

Onderzoek: zelfs de beste AI-chatbots hallucineren vaak: bots verzinnen nieuwe 'feiten' (leugens) waar je bij staat.
donderdag 15 augustus 2024, 12:05 door Redactie

https://www.security.nl/posting/853834/Onderzoek%3A+zelfs+de+beste+AI-chatbots+hallucineren+vaak

Op dit moment kunnen zelfs de beste AI modellen in slechts 35% van de gevallen 'hallucinatievrije' tekst genereren.
24-08-2024, 12:46 door Anoniem
Als iets misbruikt kan worden, zal het misbruikt worden.

AI in handen van informatie manipulatoren, die al dagelijks
een 'nepwereld'(nu deep fake genoemd)
over uw oren en ogen trekken, gaan deze technologie
zeker gebruiken om u van nog wat resterende vrijheden
te beroven.
24-08-2024, 12:49 door Joep Lunaar
Ontbinding Microsoft als criminele organisatie lijkt niet ondenkbaar. Als het OM dat nalaat zal Copilot wel in die lacune gaan voorzien.
24-08-2024, 13:06 door Joep Lunaar
In de gebruikersovereenkomst van Copilot staat dat Microsoft niet aansprakelijk is voor de antwoorden van de chatbot.
Even alsof Nederlands privaatrecht toepasselijk is; in de genoemde casus is het Duitse van toepassing.

Als dat al gelding heeft - lijkt me een "onredelijk bezwarend" beding - is dat uitsluitend tussen de "gebruiker" (van de algemene voorwaarden, i.c. Microsoft) en diens klant(en). Met het beding kan Microsoft zich niet verweren tegen een vordering van de verslaggever tot vergoeding voor de hem toegebrachte schade.

Die schade zou kunnen bestaan uit kosten te maken voor extra beveiliging, kosten voor verlies van werk enz. In het Angelsaksisch recht is daarboven nog verhaal van "punitive damages" wegens "wilful misconduct", "gross negligence" of iets dergelijks denkbaar.
24-08-2024, 13:57 door Anoniem
Door Joep Lunaar:
In de gebruikersovereenkomst van Copilot staat dat Microsoft niet aansprakelijk is voor de antwoorden van de chatbot.
Even alsof Nederlands privaatrecht toepasselijk is; in de genoemde casus is het Duitse van toepassing.

Als dat al gelding heeft - lijkt me een "onredelijk bezwarend" beding - is dat uitsluitend tussen de "gebruiker" (van de algemene voorwaarden, i.c. Microsoft) en diens klant(en). Met het beding kan Microsoft zich niet verweren tegen een vordering van de verslaggever tot vergoeding voor de hem toegebrachte schade.

Die schade zou kunnen bestaan uit kosten te maken voor extra beveiliging, kosten voor verlies van werk enz. In het Angelsaksisch recht is daarboven nog verhaal van "punitive damages" wegens "wilful misconduct", "gross negligence" of iets dergelijks denkbaar.

Politie in Nederland profileert ook, misdaadcijfers zijn ook statistieken, mensen maken ook interpretatiefouten, leidend tot gerechtelijke dwalingen. Maar de NPO in samenwerking met justitie gaat ook regelmatig de fout in:
https://www.rtl.nl/nieuws/artikel/5467097/onterecht-op-tv-een-opsporingsprogramma-het-gaat-ieder-jaar-weer-fout

Kunnen deze mensen ook schadevergoeding eisen? Wellicht dit juridische grondslag moet krijgen, ook om ontwikkelaars van AI bij voorkeur strafrechtelijk te vervolgen, met civiele schadeclaim er achteraan. Kun misstanden bij de "diensten" wellicht ook mee aangepakt worden.
24-08-2024, 19:15 door Anoniem
Vul rechter in --- plus naam --- plus onderwerp.
uitkomst: rechter Pluisjesma heeft uit zijn neus zitten eten.

Vul stratenmaker in --- plus naam --- plus onderwerp.
uitkomst: stratenmaker Boertjesma heeft uit zijn neus zitten eten.

De naam doet er niet toe, zo'n AI maakt er gewoon een mooie gemengde salade van.
Het maakt niet uit wie men invult, de AI vult alles gewoon relatief onwillekeurig aan.
Sinds wanneer gaan men dit als "nieuws" zien???
Als ik mijn beroep, mijn naam en onderwerp invul is er een goede kans dat ik zeer beledigende resultaten te zien krijg, maar dat ding kent mij (of die rechter) helemaal niet, het gaat alleen maar uit van de "naam" en "beroep".
Het is gewoon speelgoed zoals anoniem van 20:35 al zei.
Aps men alles in de wereld heel serieus gaat nemen wordt het wel een erg moeilijk leefbare wereld, juist een rechter hoort dat te weten.
Dat ding herrangschikt (husselt) gewoon een setje parameters door elkaar tot er een relatief onwillekeurig resultaat wordt bereikt.
25-08-2024, 10:50 door Anoniem
Het zou het neerlands journaille sieren om dit onderzoek naar AI over zichzelf ook te doen. Dat houdt dit maatschappelijke thema tenminste op de nieuwsagenda. Maar nee hoor, terwijl ze ongetwijfeld op de hoogte waren van de bevindingen van deze Duitse collega, wordt het doodgezwegen.
Door Joep Lunaar: Ontbinding Microsoft als criminele organisatie lijkt niet ondenkbaar. Als het OM dat nalaat zal Copilot wel in die lacune gaan voorzien.
Dat hebben ze iets meer dan 20 jaar geleden al geprobeerd en is door de hoogste rechtbank in de VS teruggedraaid.
Dat ging toen om de zg. browser oorlog tussen Internet Explorer en Netscape.
26-08-2024, 10:01 door Anoniem
Door Drs Security en Privacy:
Door Joep Lunaar: Ontbinding Microsoft als criminele organisatie lijkt niet ondenkbaar. Als het OM dat nalaat zal Copilot wel in die lacune gaan voorzien.
Dat hebben ze iets meer dan 20 jaar geleden al geprobeerd en is door de hoogste rechtbank in de VS teruggedraaid.
Dat ging toen om de zg. browser oorlog tussen Internet Explorer en Netscape.

Dat had een mooi precedent kunnen schapen. Computers met vooraf geïnstalleerde Windows OEM voor de consumentenmarkt stond vol met bloatware, ook van licentieverspreiders.
26-08-2024, 12:11 door Anoniem
AI weet niets en genereert zijn output on-the-fly gebaseerd op wat het "meest voor de hand liggend" is in het model dat het AI gebruikt.
Soms komt het on-the-fly genereren in een lus terecht en blijft het AI maar onzin uitkramen.
Neem alles van een AI dus met een korrel zout. Soms met een zak zout. Als je van een onderwerp niets weet, pas dan helemaal op.
26-08-2024, 13:10 door Anoniem
Door Anoniem: AI weet niets en genereert zijn output on-the-fly gebaseerd op wat het "meest voor de hand liggend" is in het model dat het AI gebruikt.
Soms komt het on-the-fly genereren in een lus terecht en blijft het AI maar onzin uitkramen.
Neem alles van een AI dus met een korrel zout. Soms met een zak zout. Als je van een onderwerp niets weet, pas dan helemaal op.

Goed introductie:
https://www.youtube.com/watch?v=9Q3R8G_W0Wc

Staat ook nog een langere Nederlandstalige versie op YT. Spreker:

https://iasaglobal.org/Services/Public/SpeakerBios/Gerben-Wierda.aspx

Een korrel, of een kilo jozo, op een glijdende schaal kan niet verkroppen dat hier toekomstscenario's geschetst worden. Het zijn mensen die chattaal imiteren, of bewust overnemen. Naast allerlei bots op X en dergelijke.
02-09-2024, 12:38 door Joep Lunaar
Door Anoniem:
Politie in Nederland profileert ook, misdaadcijfers zijn ook statistieken, mensen maken ook interpretatiefouten, leidend tot gerechtelijke dwalingen. Maar de NPO in samenwerking met justitie gaat ook regelmatig de fout in:
https://www.rtl.nl/nieuws/artikel/5467097/onterecht-op-tv-een-opsporingsprogramma-het-gaat-ieder-jaar-weer-fout

Kunnen deze mensen ook schadevergoeding eisen? Wellicht dit juridische grondslag moet krijgen, ook om ontwikkelaars van AI bij voorkeur strafrechtelijk te vervolgen, met civiele schadeclaim er achteraan. Kun misstanden bij de "diensten" wellicht ook mee aangepakt worden.
Ja, die kunnen waarschijnlijk wel vergoeding van hun schade eisen, vooral als die ook materieel is. De civielrechtelijke aansprakelijkheid stoelt op de toerekening van de schade ontstaan door onrechtmatig (onjuist) gebruik van de beelden.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.