Europol: bestrijding deepfakes vereist wetgeving en grotere rol techbedrijven
De meeste deepfakes zijn nog altijd handmatig door mensen te herkennen, maar dit is geen schaalbare oplossing voor de lange termijn, aldus Europol. De Europese opsporingsdienst heeft vandaag een rapport gepubliceerd over het gebruik van deepfaketechnologie door criminelen (pdf). In het rapport wordt gepleit voor wetgeving en een grotere rol van techbedrijven bij het vinden en verwijderen van deepfakes.
Met name het gebruik van deepfakes om desinformatie te verspreiden is volgens Europol een groot risico. Op dit moment zijn deepfakes nog door menselijke analisten te herkennen. Het toenemende gebruik van de technologie zal voor een grotere belasting van politiediensten zorgen en nieuwe vaardigheden van agenten vragen, aldus Europol.
Deepfakes kunnen allerlei gevolgen voor politiewerk hebben, van vervalst bewijs tot de inzet van politiediensten op locaties waar dit helemaal niet nodig is. Europol stelt dat opsporingsdiensten procedures hebben voor de omgang met nepbewijs, maar dat die vanwege de opkomst van deepfakes continu moeten worden aangepast. Daarnaast pleit Europol voor wetgeving om regels te stellen en medewerking af te dwingen, waarbij ook rekening wordt gehouden met de wensen van opsporingsdiensten.
Verder ziet Europol een grotere rol voor sociale netwerken en andere online serviceproviders weggelegd in het identificeren en verwijderen van deepfakes van hun platformen. "Nu het publiek steeds meer komt te weten over deepfakes, zal er wereldwijd een grotere zorg zijn over hun impact op personen, gemeenschappen en democratieën", zo laat Europol weten.
Biometrische autorisatie
Niet alleen verwacht Europol dat deepfakes gevolgen zullen hebben voor opsporingsdiensten, ook organisaties die van biometrische autorisaties gebruikmaken moeten hier rekening mee houden en hun autorisatieproces herzien. In plaats van audio-autorisatie moet gebruik worden gemaakt van audiovisuele autorisatie. Verder zijn live videoverbindingen nodig en moeten willekeurige handelingen live voor de camera worden getoond, zoals de hand voor het gezicht houden.
Met het afvlakken van Corona zijn videoverbindingen voor identificatie ook helemaal niet meer zo nodig. Sterker nog, deze videoverbindingen kunnen gebruikt worden voor het trainen voor deepfakes. Vooral als iedereen ze normaal gaat vinden en er aan meewerkt.
In de ogen van de staat bestaan slechts (cyber-)criminele burgers en doen staten dit niet of moet dat anders genoemd worden.
Het meten met twee maten wordt steeds groter. Deep fake aan de ene kant en geprefereerde perceptie aan de andere.
Ik wens u veel onderscheid tussen die twee te kunnen ontwaren.
Als deepfake-detectie tools slechts 65% van de deepfakes kunnen opsporen kun je niet anders dan deze stelling in twijfel trekken.
Als deepfake-detectie tools slechts 65% van de deepfakes kunnen opsporen kun je niet anders dan deze stelling in twijfel trekken.
Huh ?
De stelling is : Menselijke analisten herkennen (nog) een deepfake.
Jij countert dat een TOOL slechts 65% scoort . Waarom zegt dat iets over de stelling die menselijke analisten betreft ?
Als deepfake-detectie tools slechts 65% van de deepfakes kunnen opsporen kun je niet anders dan deze stelling in twijfel trekken.
Huh ?
De stelling is : Menselijke analisten herkennen (nog) een deepfake.
Jij countert dat een TOOL slechts 65% scoort . Waarom zegt dat iets over de stelling die menselijke analisten betreft ?
Misschien dat hij dat bedoelt - maar dat is de achterliggende aanname dat tools op dit vlak (al) beter zijn dan een menselijke analist .
De aanname dat tools (al) beter zijn dan mensen in dit domein is m.i. prematuur .
Als deepfake-detectie tools slechts 65% van de deepfakes kunnen opsporen kun je niet anders dan deze stelling in twijfel trekken.
Huh ?
De stelling is : Menselijke analisten herkennen (nog) een deepfake.
Jij countert dat een TOOL slechts 65% scoort . Waarom zegt dat iets over de stelling die menselijke analisten betreft ?
Deze posting is gelocked. Reageren is niet meer mogelijk.
Specialiseer je in Forensisch ICT
Online informatieavond 19 november
Wil jij je specialiseren in digitaal forensisch onderzoek? Je kennis verbreden en tech-nische vaardigheden ontwikkelen? Ontdek de cursus- en opleidingsmogelijkheden van Hogeschool Leiden:
- Bachelor Informatica Forensisch ICT (deeltijd)
- Master Digital Forensics (vol- en deeltijd)
- Module Mobile Forensics
- Module Data Analytics
Interesse? Meld je aan!
Chief Information Security Officer
Utrecht heeft jou nodig! Als Chief Information Security Officer speel jij een cruciale rol in de bescherming van de digitale informatie van de gemeente Utrecht. Als geen ander weet jij welke dreigingen er zijn en kun je deze vertalen naar risico's die de gemeente en haar inwoners lopen. Solliciteer nu!
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
