De Europese Commissie investeert twee miljoen euro in de ontwikkeling van een app die apparaten op de aanwezigheid van kindermisbruikmateriaal monitort. Hiervoor wordt in real-time naar zowel het netwerkverkeer als te bekijken foto's en video's gekeken. Nederland is één van de eerste landen waar de app zal worden getest. Gebruik van de app zal vrijwillig zijn, zo stelt de Internet Watch Foundation (IWF) die bij de ontwikkeling is betrokken.
De applicatie is bedoeld voor mensen die neigen om beeldmateriaal van seksueel kindermisbruik te bekijken. "Gebruikers worden volledig op de hoogte gebracht van het doel van de app en de effecten ervan op hun toestel", aldus het Expertisebureau Online Kindermisbruik (EOKM). De app maakt gebruik van machine learning om foto's en video's te herkennen. De software draait in de achtergrond. Zodra gebruikers misbruikmateriaal bekijken zal het worden geblokkeerd voordat het op het scherm kan verschijnen, aldus de IWF.
"De app is uniek omdat deze is ontworpen voor de gebruikers ervan. Er worden zeer accurate machine learning modellen toegepast. Doordat de app in de real time werkt, wordt voorkomen dat de gebruiker dergelijke beelden te zien krijgt", zo stelt het EOKM. "Deze app kan een essentieel instrument zijn voor een duurzame en lange termijn preventie van beelden van seksueel kindermisbruik."
Volgende maand zal worden begonnen met het onderzoek, ontwerp en ontwikkeling van de app, wat twee jaar in beslag zal nemen. Zodra de ontwikkeling van de app is gereed zal die als eerste in vijf landen worden getest, waaronder Nederland. Vervolgens zal de app verder worden ontwikkeld. Het zogenaamde "Protech-project" wordt met twee miljoen euro door de Europese Commissie gefinancierd. Onder andere de Universiteit van Tilburg is bij het project betrokken.
Ella Jakubowska, beleidsadviseur bij digitale rechtenbeweging EDRi, laat aan Euractiv weten dat er sterke waarborgen nodig zijn om "scope-creep" te voorkomen en ervoor te zorgen dat de technologie niet zal worden gebruikt voor third-party surveillance van apparaten.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.