De Europese Commissie wil chatdiensten en andere techbedrijven verplichten om alle berichten en andere content van gebruikers te controleren op kindermisbruik en grooming en accepteert daarbij hoge foutmarges van de gebruikte technologie, zo blijkt uit documenten die Netzpolitik in handen kreeg.
De Duitse overheid had de Europese Commissie gevraagd hoe volwassen de scantechnologie is in het voorkomen van false positives. Het gaat dan om berichten die ten onrechte worden aangemerkt als verdacht. Iets wat grote gevolgen kan hebben, zo bleek uit een bericht van een Amerikaanse man die slachtoffer werd van Googles fotoscan-algoritme nadat hij een foto van zijn kind naar een arts had gestuurd.
Tevens wilde de Duitse overheid weten of de gebruikte technologie aan bepaalde eisen moet voldoen, zoals een nauwkeurigheid van 99,9 procent. In de beantwoording laat de Europese Commissie weten dat de detectietechnologie een nauwkeurigheidspercentage van negentig procent heeft. Vervolgens worden de aangemerkte berichten gecontroleerd door een nog op te richten centrum. Verder stelt de Commissie dat er geen eisen met betrekking tot nauwkeurigheidspercentages zijn gesteld.
De Duitse regering vroeg de Commissie ook naar technologie die end-to-end encryptie in stand houdt, maar wel kindermisbruikmateriaal kan detecteren. Daarop antwoordt de Commissie dat encryptie niet alleen belangrijk is om privécommunicatie te beschermen, maar ook misdadigers helpt om zich te verbergen en er daarom is besloten encryptie niet uit het voorstel te laten.
De Europese privacytoezichthouders zijn zeer bezorgd over de plannen van de Europese Commissie en spreken van een serieus risico voor de fundamentele rechten van 450 miljoen Europeanen.
Deze posting is gelocked. Reageren is niet meer mogelijk.