image

Chatbot imiteert schoolmeisje om pedofielen te lokken

vrijdag 12 juli 2013, 13:04 door Redactie, 11 reacties

Spaanse onderzoekers hebben een chatbot ontwikkeld die zich als een echt meisje voordoet om pedofielen in online chatrooms te betrappen. De 'Negobot' is ontwikkeld door onderzoekers van de Universiteit van Deusto en gebruikt kunstmatige intelligentie om het gedrag en taalgebruik van tieners na te bootsen. Naast kunstmatige intelligentie past de bot ook Game Theory toe.

"Het meest innovatieve aan Negobot is dat het de conversatie als een spel beschouwt, en in deze context game theory toepast. Negobot stelt eerst een competitief spel voor waarbij het systeem de beste strategieen identificeert voor het behalen van het doel", aldus de onderzoekers.

Het gaat dan om het verkrijgen van informatie waaruit blijkt of de persoon die met de chatbot spreekt pedofiele neigingen heeft, zonder dat deze persoon door heeft dat hij met een bot spreekt. Zo kan Negobot zelf initiatieven nemen en bepaalde dingen herinneren die eerder zijn besproken en met wie. Ook zou de bot 'straattaal' en kinderachtige taal gebruiken en opzettelijk spelfouten maken

Onderwerpen
Daarbij hanteert de Negobot verschillende niveaus, afhankelijk van de input die het van de gebruiker krijgt. Er zijn zeven niveaus, waarbij de persoon die met de bot spreekt wordt geëvalueerd. Deze evaluatie bepaalt of de persoon die met de bot spreekt een pedofiel is of niet, afhankelijk van de inhoud van het gesprek.

De bot gebruikt verschillende tactieken om personen die bijvoorbeeld niet willen praten toch aan het praten te krijgen. Zo wordt er hulp gevraagd over familiezaken, pesterijen en andere tienerproblemen.

Als de persoon in kwestie dan nog steeds geen zin heeft, doet de bot zich voor als een slachtoffer waar niemand om geeft en dat naar affiniteit zoekt. In het geval de bot vermoedt dat de persoon aan de andere kant een pedofiel is, worden de chatgesprekken steeds seksueel explicieter.

Toekomst
"Meer een meer kinderen zijn actief op internet. Hoewel dit medium veel voordelen biedt, biedt het ook anonimiteit die pedofielen gebruiken om kinderen lastig te vallen. Een snelle identificatie van dit soort gebruikers op het internet is zeer belangrijk", aldus de onderzoekers. Die erkennen dat de Negobot hiervoor nog niet helemaal klaar is.

Zo vormt taal nog steeds een barrière en moet het kinderlijke taalgebruik dat de bot toepast worden verbeterd. Een ander probleem is dat de bot moeite heeft met de manier waarop gespreksonderwerpen veranderen. Iets wat met de taal te maken heeft en lastig is op te lossen. De onderzoekers hebben echter al een plan om de Negobot (PDF) in de toekomst te verbeteren.

Reacties (11)
12-07-2013, 13:21 door Mysterio
En nu koppelen aan een bot die een geïnteresseerd jongetje na doet en je kan lachen.
12-07-2013, 14:06 door Anoniem
Volgens mij is dit een overduidelijke vorm van uitlokking:

In het geval de bot vermoedt dat de persoon aan de andere kant een pedofiel is, worden de chatgesprekken steeds seksueel explicieter.

Een machine "vermoedt" dat iemand pedofiel is en vertoont dan dit gedrag. Wanneer een mens een vermoeden heeft, dan is dat al een aanname. Wanneer dit bij een machine gebeurt, dan is dit een aanname, gebaseerd op een aanname van een mens, dat bepaalde patronen een bepaalde betekenis hebben.

Ik ben benieuwd wat een rechter gaat zeggen, indien het enige bewijs de conversaties met deze robot zijn.
12-07-2013, 14:08 door [Account Verwijderd]
Op het IRC AmigaNL heel lange geleden dus!
Hebben we ooit een paar "Dancer" bots tegen elkaar laten praten om via taal te bewijzen dat ze geen bot waren.
Dat was best humor.;-)
1 - jij bent een bot
2 - jij bent zelf een bot
1 - ik ben geen bot jij bent zelf een bot.
De rest kun je zelf invullen.

De bots waren min of meer illegaal op het IRC.
Maar toen, dat is niet nu, vielen ze snel door de mand als een mens de zelfde vraag 3 maal herhaalde.

Een mens raakt wat geïrriteerd en antwoord dan wat kortaf en een bot doet/deed dat niet.

Nu zijn computer soms achterbaks en gemeen, maar irritatie kennen ze volgens mij nog niet echt.
Om zo iets in te bouwen lijkt MIJ erg moeilijk.
12-07-2013, 14:17 door Anoniem
@Mysterio: Goeie! Doet me een beetje denken aan WOPR uit Wargames ;-)

Ik vind het een idiote uitvinding. Het heeft te veel weg van uitlokking. Niet dat dat wegneemt dat je je als volwassene aan een kind mag vergrijpen, dat is natuurlijk wel het uiterste. Er zijn echter trieste gevallen genoeg waarbij zowel de kinderen als de volwassenen dachten verliefd te zijn. En liefde maakt blind... Waar dat dan begonnen is, dat weet dan niemand meer.

Menig pedofiel is meer geestesziek dan crimineel. Toch worden ze als criminelen geweerd uit de samenleving, iets dat dan ook wel weer te begrijpen is. Je wilt immers de kinderen beschermen. En wanneer je geestesziek dan ook nog eens verward met 'geaardheid', dan kun je helemaal lachen. Nog geen 100 jaar geleden werden homofilie en pedofilie radicaal over een kam geschoren! In de Middeleeuwen bekochten allen het met de dood.

Waarschuwing aan elke volwassene: Praat nooit met kinderen, ren hard voor ze weg! Zowel op Internet als in het echt! Kind van de fiets gevallen? Beter 1-1-2 bellen dan helpen, stel je voor je raakt het kind aan en oompie agent staat achter een muurtje te loeren...
12-07-2013, 14:27 door Ilja. _V V
Opa is oprecht bezorgd, & word dus, geheel geautomatiseerd, van zijn bed gelicht!... :-P
12-07-2013, 15:01 door Duck-man
Door Ilja. _\\//: Opa is oprecht bezorgd, & word dus, geheel geautomatiseerd, van zijn bed gelicht!... :-P
De opbouw van het gesprek is wel erg dat een oprecht bezorgt iemand als pedofiel wordt aan gemerkt. Als ik dit lees krijg ik toch het gevoel dat het erg op uitlokking lijkt. Maar het is goed dat we dit nu weten. Als je bij toeval een kind met een probleem tegen komt moet je dus bot weg afkappen, en vooral niet behulpzaam zijn. Dat een kind met echt problemen thuis dan niet op gemerkt wordt is dan maar zo.
Blijkbaar kunnen ouders hun kind niet meer opvoeden en internet wijs maken. Je kan ook met je kind praten wat ze op internet doen en ze daar bij helpen. Maar ja dat is mijn mening.
12-07-2013, 15:16 door Anoniem
Geheel los van het doel impliceren ze tussen de regels door een programma te hebben geschreven dat slaagt voor de Turing-test. Is dat geen doorbraak in kunstmatige intelligentie?
12-07-2013, 15:24 door Anoniem
Het lijkt erop dat men een interessante strategie heeft gevonden om funding te vinden. Want wie wil nou niet dat pedofielen opgepakt worden. Het probleem zit hem er alleen in dat de huidige stand van de techniek absoluut ontoereikend is om een geloofwaardige kunstmens te realiseren. Ik zie nog steeds de ene na de andere AI toepassing waarbij geloofwaardige interactie met mensen een rol speelt falen. Ik zie zelfs projecten falen waarbij met behoorlijke resources qua programmeurs en kennis modelleerders significant simpelere situaties niet of nauwelijks tot een goed einde kunnen worden gebracht.

Ik hoop dat ze echt heel zeker weten of dat geld niet beter besteed had kunnen worden aan wat verkeersanalyse en (PC ) afluisterapparatuur zodat ze keihard in 3 dagen tijd bewijs verzamelen om dergelijke bad guys te vangen..
12-07-2013, 17:32 door Anoniem
Beetje ondoordachte methode juridisch gezien. De bot initieert onderwerpen en/of leid de discussie naar bepaalde onderwerpen, m.a.w. de bot imiteert iemand die bewust op zoek is. En dan is de chatpartner opeens "schuldig" danwel "pedofiel" als die daarop niet direct de chat sluit ofzo?

Dit programma is dus kennelijk geschreven met de overtuiging dat onder een bepaalde leeftijd het nooit zou voorkomen dat jonge pubers op onderzoek uitgaan, en dat chatpartners per definitie schuldig of fout zijn als ze niet op de "juiste" manier daar mee omgaan.

Het is dus idd domweg uitlokken zonder enig nut. Nou ja, je kan hiermee wel lekker nutteloze statistieken bij elkaar gaan fantaseren.
12-07-2013, 17:39 door johanw
Waarom zou iemand hiervoor opgepakt worden? "Edelachtbare, mijn client zat sexueel georienteerd te chatten met een computerprogramma, sinds wanneer is dat verboden?"

Er is meen ik laatst een vermeende pedofiel vrijgesproken die chatte met een agent die zich als kind voordeed. Hij deed niets dat verboden was want de agent was ouder dan 18.
13-07-2013, 00:51 door kloek8
Heeft iemand een link waar je met deze bot kan chatten? Wil hem wel eens testen.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.