Politie analyseerde EncroChat-berichten via deeplearningmodel NFI
De politie heeft onderschepte berichten van chatdienst EncroChat via een deeplearningmodel van het Nederlands Forensisch Instituut (NFI) geanalyseerd, zo laat het NFI vandaag zelf weten. EncroChat was een aanbieder van versleutelde communicatie. Het bedrijf leverde internationaal cryptotelefoons waarmee gebruikers versleuteld konden communiceren.
Bij deze telefoons waren de camera, microfoon, gps en usb-poort verwijderd. Berichten op het toestel werden automatisch na een bepaalde periode gewist. Daarnaast beschikten de telefoons over een functie die alle informatie na het invoeren van een specifieke pincode wist. De politie wist begin vorig jaar 25 miljoen berichten van gebruikers van de chatdienst te onderscheppen, mogelijk door gebruik te maken van malware.
Het team voor Forensische Big Data Analyse (FBDA) van het NFI ontwikkelde een computermodel om in grote hoeveelheden berichten die verdachten aan elkaar stuurden berichten met levensbedreigende boodschappen te herkennen. Hiervoor werden in samenwerking met de politie woordenlijsten gemaakt met 'signaalwoorden'. Het gaat om woorden waarmee criminelen aangeven dat iemand moet worden mishandeld, ontvoerd of vermoord.
Vervolgens gaven politierechercheurs de gevonden resultaten het label 'bedreigend' mee of het label 'niet-bedreigend'. Zo kan het woord 'slapen' zowel in een bedreigende als niet-bedreigende context worden gebruikt. "Wanneer je met alleen dat woord zou zoeken, krijg je ook veel berichten die niet relevant zijn. Dat wil je niet. Daarom werden de computers met de labels getraind om uit de context af te leiden of het daadwerkelijk om een bedreiging gaat", zo laat het NFI weten.
Het deeplearningmodel werd met tienduizenden bedreigende en niet-bedreigende zinnen getraind. De politie zette het model vervolgens in om de berichten met een hoge kans op een levensbedreigende inhoud te herkennen. De resultaten die dit opleverde werden opnieuw gecontroleerd, gelabeld en weer binnen het model geladen. Het model is hierna door het speciaal opgerichte Threat To Life-team (TTL) van de politie ingezet om berichten te analyseren. Zo konden tientallen mensen worden gewaarschuwd voor mogelijke liquidaties, ontvoering of mishandeling.
https://www.youtube.com/watch?v=rsSNsmoK6nU
En het (vermoedelijk) lage gemiddelde IQ van de eindgebruiker, gepaard met hun hardnekkige show off-neigingen kwam nu ook niet bepaald de security ten goede.
Overigens goed werk verricht door de opsporingsdiensten. Nu maar hopen dat ook rechters eindelijk eens gaan doorpakken zodat de vele uren politiewerk met de mooie resultaten niet verloren gaat.
Op YouTube kom ik nogal wat reacties tegen in talen die ik niet beheers. Zoals Spaans of Russisch. Van Russisch begrijp ik de tekens niet eens. Als ik deze reacties op YouTube door google translate gooi, is het resultaat diep bedroevend. Ook naar Engels vertalen in plaats van naar Nederlands levert vaak geen leesbare tekst op. Ik verwacht dan ook niet dat de 'deep learning' van de NFI daarin veel beter is.
In het begrijpen (niet alleen vertalen) van tekst is de AI mogelijk nog slechter. En 'deep learning' is een black box, dus het systeem kan niet duiden waarom deze tot een conclusie komt. In een rechtszaak zijn deze conclusies dan ook onbruikbaar voor een rechter.
Het is ook niet te toetsen of het systeem werkt. Als een crimineel beschermd wordt en een moordaanslag wordt voorkomen is dat mooi. Maar als een crimineel niet beschermd wordt omdat de AI deze niet aangaf, hoe kom er er dan ooit achter dat dat wel had moeten gebeuren?
Al met al vind ik het maar een heel wazig gebeuren en heb ik er niet veel vertrouwen in dat het ook echt werkt. Wat werkt is meer specialisten opleiden en in dienst houden die alles goed door kunnen spitten zonder dat het deep learning systeem een voorselectie maakt.
Waar gebruikte de overheid eerder nog meer AI. Bij de belastingdienst toch om fraude op te sporen? Dat bleek achteraf ook niet zo'n succes te zijn.
Met andere woorden, ze hebben een batch van 500 phones in china laten maken en het netwerk zelf opgezet in de hoop dat het gebruikt zou worden. Zo lijkt het net of ze een quantum computer hebben gebruikt maar in feite een 15 euro china phone.
Om die reden laat ik Google Translate, wanneer ik het gebruik, naar het Engels vertalen, dan worden deze fouten in ieder geval niet geïntroduceerd en dat scheelt al een hoop verwarring en gepuzzel. Wat altijd overblijft zijn uitdrukkingen die letterlijk vertaald worden en die in de andere taal betekenisloos zijn. Je ziet op deze website vrij regelmatig iemand met "pot, ketel" antwoorden, of met "wc-eend". Iemand uit een ander land heeft geen flauw idee waar dat nou weer aan refereert. Omgekeerd zijn veel van hun uitdrukkingen raadselachtig voor ons.
[*] Eén voorbehoud: het is inmiddels al een flinke tijd geleden (ik denk iets van anderhalf jaar) dat ik voor het laatst heb gecheckt of dit nog steeds zo is, dus misschien is het inmiddels niet meer zo. Toen ik het voor het laatst checkte was het in ieder geval volkomen duidelijk dat Engelse homoniemen de bron van veel vertaalfouten waren.
Nu die boel open source maken, zodat elk politie korps in Europa het kan gebruiken!!!
...
Zou hilarisch zijn wanneer criminelen 'Functie elders' gaan gebruiken.
...
Zou hilarisch zijn wanneer criminelen 'Functie elders' gaan gebruiken.
Uit de muziek van Osdorp Posse: "Voordat je het weet heb je een tuintje op je buik".
Zou 'tuintje' ook in de lijst te vinden zijn van het NFI?
En het (vermoedelijk) lage gemiddelde IQ van de eindgebruiker, gepaard met hun hardnekkige show off-neigingen kwam nu ook niet bepaald de security ten goede.
Overigens goed werk verricht door de opsporingsdiensten. Nu maar hopen dat ook rechters eindelijk eens gaan doorpakken zodat de vele uren politiewerk met de mooie resultaten niet verloren gaat.
En het (vermoedelijk) lage gemiddelde IQ van de eindgebruiker, gepaard met hun hardnekkige show off-neigingen kwam nu ook niet bepaald de security ten goede.
Overigens goed werk verricht door de opsporingsdiensten. Nu maar hopen dat ook rechters eindelijk eens gaan doorpakken zodat de vele uren politiewerk met de mooie resultaten niet verloren gaat.
Heb je het nu over de encrochat-gebruikers of de opsporingsdiensten?
Deze posting is gelocked. Reageren is niet meer mogelijk.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
