Nieuws
image

Politie analyseerde EncroChat-berichten via deeplearningmodel NFI

woensdag 5 mei 2021, 15:42 door Redactie, 11 reacties

De politie heeft onderschepte berichten van chatdienst EncroChat via een deeplearningmodel van het Nederlands Forensisch Instituut (NFI) geanalyseerd, zo laat het NFI vandaag zelf weten. EncroChat was een aanbieder van versleutelde communicatie. Het bedrijf leverde internationaal cryptotelefoons waarmee gebruikers versleuteld konden communiceren.

Bij deze telefoons waren de camera, microfoon, gps en usb-poort verwijderd. Berichten op het toestel werden automatisch na een bepaalde periode gewist. Daarnaast beschikten de telefoons over een functie die alle informatie na het invoeren van een specifieke pincode wist. De politie wist begin vorig jaar 25 miljoen berichten van gebruikers van de chatdienst te onderscheppen, mogelijk door gebruik te maken van malware.

Het team voor Forensische Big Data Analyse (FBDA) van het NFI ontwikkelde een computermodel om in grote hoeveelheden berichten die verdachten aan elkaar stuurden berichten met levensbedreigende boodschappen te herkennen. Hiervoor werden in samenwerking met de politie woordenlijsten gemaakt met 'signaalwoorden'. Het gaat om woorden waarmee criminelen aangeven dat iemand moet worden mishandeld, ontvoerd of vermoord.

Vervolgens gaven politierechercheurs de gevonden resultaten het label 'bedreigend' mee of het label 'niet-bedreigend'. Zo kan het woord 'slapen' zowel in een bedreigende als niet-bedreigende context worden gebruikt. "Wanneer je met alleen dat woord zou zoeken, krijg je ook veel berichten die niet relevant zijn. Dat wil je niet. Daarom werden de computers met de labels getraind om uit de context af te leiden of het daadwerkelijk om een bedreiging gaat", zo laat het NFI weten.

Het deeplearningmodel werd met tienduizenden bedreigende en niet-bedreigende zinnen getraind. De politie zette het model vervolgens in om de berichten met een hoge kans op een levensbedreigende inhoud te herkennen. De resultaten die dit opleverde werden opnieuw gecontroleerd, gelabeld en weer binnen het model geladen. Het model is hierna door het speciaal opgerichte Threat To Life-team (TTL) van de politie ingezet om berichten te analyseren. Zo konden tientallen mensen worden gewaarschuwd voor mogelijke liquidaties, ontvoering of mishandeling.

Reacties (11)
05-05-2021, 16:41 door Anoniem
Het model is getraind op basis van de serie "Allo, Allo!".
https://www.youtube.com/watch?v=rsSNsmoK6nU
05-05-2021, 18:31 door Anoniem
Het was houtje-touwtje-straatjongenscommunicatie. Kluwen duct tape goudgeverfd (boefjes...) gezien de belachelijk hoge abonnementsprijs en het feit dat het duurbetaalde snake oiled handlanger makkelijk te compromiseren was dmv malware. Ziehier hier het achterstallige onderhoud van de 'dienst' wat doet vermoeden dat het opleidingsniveau binnen dat Encrochat team te laag was om een dergelijke dienst fatsoenlijk in de lucht te kunnen houden. Je kunt wel zeker stellen dat als Encrochat een reguliere clientéle had, ze allang door de mand gevallen waren met hun kwetsbaarheden. Daarmee vergeleken zou het bij Pulse slechts incidentjes geweest zijn. Zaken als encryptie, vpn en virtualisatie behoeven nu eenmaal meer aandacht en kennis dan dat het slechts 'werkt'. En gedegen hardware ipv de kwetsbare kwetsbare en voor dat doel te licht bevonden Samsung- of de veredelde maar verouderde Blackberry-telefoons. (Moest het zonodig een 'merk' zijn ? Boefjes...)
En het (vermoedelijk) lage gemiddelde IQ van de eindgebruiker, gepaard met hun hardnekkige show off-neigingen kwam nu ook niet bepaald de security ten goede.

Overigens goed werk verricht door de opsporingsdiensten. Nu maar hopen dat ook rechters eindelijk eens gaan doorpakken zodat de vele uren politiewerk met de mooie resultaten niet verloren gaat.
05-05-2021, 19:54 door Anoniem
"Gaan slapen"? Zo weet ik er nog wel een. "Functie elders". Weer een heel andere context maar voor AI maakt dat geen bal uit.

Op YouTube kom ik nogal wat reacties tegen in talen die ik niet beheers. Zoals Spaans of Russisch. Van Russisch begrijp ik de tekens niet eens. Als ik deze reacties op YouTube door google translate gooi, is het resultaat diep bedroevend. Ook naar Engels vertalen in plaats van naar Nederlands levert vaak geen leesbare tekst op. Ik verwacht dan ook niet dat de 'deep learning' van de NFI daarin veel beter is.

In het begrijpen (niet alleen vertalen) van tekst is de AI mogelijk nog slechter. En 'deep learning' is een black box, dus het systeem kan niet duiden waarom deze tot een conclusie komt. In een rechtszaak zijn deze conclusies dan ook onbruikbaar voor een rechter.

Het is ook niet te toetsen of het systeem werkt. Als een crimineel beschermd wordt en een moordaanslag wordt voorkomen is dat mooi. Maar als een crimineel niet beschermd wordt omdat de AI deze niet aangaf, hoe kom er er dan ooit achter dat dat wel had moeten gebeuren?

Al met al vind ik het maar een heel wazig gebeuren en heb ik er niet veel vertrouwen in dat het ook echt werkt. Wat werkt is meer specialisten opleiden en in dienst houden die alles goed door kunnen spitten zonder dat het deep learning systeem een voorselectie maakt.

Waar gebruikte de overheid eerder nog meer AI. Bij de belastingdienst toch om fraude op te sporen? Dat bleek achteraf ook niet zo'n succes te zijn.
05-05-2021, 20:07 door Anoniem
Ik denk eerder dat het het omgekeerde is van deze https://imgs.xkcd.com/comics/security.png

Met andere woorden, ze hebben een batch van 500 phones in china laten maken en het netwerk zelf opgezet in de hoop dat het gebruikt zou worden. Zo lijkt het net of ze een quantum computer hebben gebruikt maar in feite een 15 euro china phone.
06-05-2021, 01:10 door Anoniem
Door Anoniem: In een rechtszaak zijn deze conclusies dan ook onbruikbaar voor een rechter.
Gevonden berichten lijken mij duidelijk genoeg. Je hoeft niet aan te geven hoe je ze gevonden hebt. Of is zoeken naar berichten mbv AI onwettig?
06-05-2021, 09:53 door Anoniem
Off-topic zijspoortje:
Door Anoniem: Op YouTube kom ik nogal wat reacties tegen in talen die ik niet beheers. Zoals Spaans of Russisch. Van Russisch begrijp ik de tekens niet eens. Als ik deze reacties op YouTube door google translate gooi, is het resultaat diep bedroevend. Ook naar Engels vertalen in plaats van naar Nederlands levert vaak geen leesbare tekst op.
Google Translate vertaalt niet rechtstreeks tussen talen maar via het Engels[*]. Als ik bijvoorbeeld uit het Duits of Frans naar het Nederlands laat vertalen komen er bizarre vertaalfouten uit, die heel verklaarbaar zijn als je weet dat in het Engels het originele Duitse of Franse woord en de Nederlandse vertaling homoniemen zijn, dus in het Engels hetzelfde geschreven worden. Het Engelse woord "set" heeft bijvoorbeeld een fors aantal betekenissen, waaronder "toestel" en "verzameling". Je zou met Google Translate kunnen meemaken dat het Duitse woord "Gerät" (toestel) vertaald wordt als "verzameling", en dat kan heel verwarrend zijn. Ik weet niet of het met dit woord misgaat, maar dit is wel het soort dingen dat ik regelmatig heb opgemerkt.

Om die reden laat ik Google Translate, wanneer ik het gebruik, naar het Engels vertalen, dan worden deze fouten in ieder geval niet geïntroduceerd en dat scheelt al een hoop verwarring en gepuzzel. Wat altijd overblijft zijn uitdrukkingen die letterlijk vertaald worden en die in de andere taal betekenisloos zijn. Je ziet op deze website vrij regelmatig iemand met "pot, ketel" antwoorden, of met "wc-eend". Iemand uit een ander land heeft geen flauw idee waar dat nou weer aan refereert. Omgekeerd zijn veel van hun uitdrukkingen raadselachtig voor ons.

[*] Eén voorbehoud: het is inmiddels al een flinke tijd geleden (ik denk iets van anderhalf jaar) dat ik voor het laatst heb gecheckt of dit nog steeds zo is, dus misschien is het inmiddels niet meer zo. Toen ik het voor het laatst checkte was het in ieder geval volkomen duidelijk dat Engelse homoniemen de bron van veel vertaalfouten waren.
06-05-2021, 14:55 door Anoniem
Mooi mooi mooi, Ik kan me nog herinneren dat ik bij een een of ander seminar was waarbij zo'n politie vertegenwoordiger zij dat ze altijd achter het net vissen met de criminaliteit. Goed om te zien dat ze lekker bezig zijn met AI en big data waar het hoort!

Nu die boel open source maken, zodat elk politie korps in Europa het kan gebruiken!!!
06-05-2021, 16:12 door Anoniem
Door Anoniem: "Gaan slapen"? Zo weet ik er nog wel een. "Functie elders". Weer een heel andere context maar voor AI maakt dat geen bal uit.

...

Zou hilarisch zijn wanneer criminelen 'Functie elders' gaan gebruiken.
06-05-2021, 17:14 door Anoniem
Door Anoniem:
Door Anoniem: "Gaan slapen"? Zo weet ik er nog wel een. "Functie elders". Weer een heel andere context maar voor AI maakt dat geen bal uit.

...

Zou hilarisch zijn wanneer criminelen 'Functie elders' gaan gebruiken.

Uit de muziek van Osdorp Posse: "Voordat je het weet heb je een tuintje op je buik".

Zou 'tuintje' ook in de lijst te vinden zijn van het NFI?
07-05-2021, 12:03 door Anoniem
Door Anoniem: Het was houtje-touwtje-straatjongenscommunicatie. Kluwen duct tape goudgeverfd (boefjes...) gezien de belachelijk hoge abonnementsprijs en het feit dat het duurbetaalde snake oiled handlanger makkelijk te compromiseren was dmv malware. Ziehier hier het achterstallige onderhoud van de 'dienst' wat doet vermoeden dat het opleidingsniveau binnen dat Encrochat team te laag was om een dergelijke dienst fatsoenlijk in de lucht te kunnen houden. Je kunt wel zeker stellen dat als Encrochat een reguliere clientéle had, ze allang door de mand gevallen waren met hun kwetsbaarheden. Daarmee vergeleken zou het bij Pulse slechts incidentjes geweest zijn. Zaken als encryptie, vpn en virtualisatie behoeven nu eenmaal meer aandacht en kennis dan dat het slechts 'werkt'. En gedegen hardware ipv de kwetsbare kwetsbare en voor dat doel te licht bevonden Samsung- of de veredelde maar verouderde Blackberry-telefoons. (Moest het zonodig een 'merk' zijn ? Boefjes...)
En het (vermoedelijk) lage gemiddelde IQ van de eindgebruiker, gepaard met hun hardnekkige show off-neigingen kwam nu ook niet bepaald de security ten goede.

Overigens goed werk verricht door de opsporingsdiensten. Nu maar hopen dat ook rechters eindelijk eens gaan doorpakken zodat de vele uren politiewerk met de mooie resultaten niet verloren gaat.
De mens zal altijd de zwakste schakel blijven het maakt niet uit hoe goed de beveiliging is menselijke fouten en kortzichtigheid zullen de meesten de das omdoen
07-05-2021, 19:47 door Anoniem
Door Anoniem:
Door Anoniem: Het was houtje-touwtje-straatjongenscommunicatie. Kluwen duct tape goudgeverfd (boefjes...) gezien de belachelijk hoge abonnementsprijs en het feit dat het duurbetaalde snake oiled handlanger makkelijk te compromiseren was dmv malware. Ziehier hier het achterstallige onderhoud van de 'dienst' wat doet vermoeden dat het opleidingsniveau binnen dat Encrochat team te laag was om een dergelijke dienst fatsoenlijk in de lucht te kunnen houden. Je kunt wel zeker stellen dat als Encrochat een reguliere clientéle had, ze allang door de mand gevallen waren met hun kwetsbaarheden. Daarmee vergeleken zou het bij Pulse slechts incidentjes geweest zijn. Zaken als encryptie, vpn en virtualisatie behoeven nu eenmaal meer aandacht en kennis dan dat het slechts 'werkt'. En gedegen hardware ipv de kwetsbare kwetsbare en voor dat doel te licht bevonden Samsung- of de veredelde maar verouderde Blackberry-telefoons. (Moest het zonodig een 'merk' zijn ? Boefjes...)
En het (vermoedelijk) lage gemiddelde IQ van de eindgebruiker, gepaard met hun hardnekkige show off-neigingen kwam nu ook niet bepaald de security ten goede.

Overigens goed werk verricht door de opsporingsdiensten. Nu maar hopen dat ook rechters eindelijk eens gaan doorpakken zodat de vele uren politiewerk met de mooie resultaten niet verloren gaat.
De mens zal altijd de zwakste schakel blijven het maakt niet uit hoe goed de beveiliging is menselijke fouten en kortzichtigheid zullen de meesten de das omdoen

Heb je het nu over de encrochat-gebruikers of de opsporingsdiensten?
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.

Zoeken
search
Certified Secure