Twee onderzoekers van de Princeton University die net als Apple een systeem ontwikkelden voor het detecteren van kindermisbruik waarschuwen dat de technologie te gevaarlijk is om te gebruiken. Het onderzoeksproject van Jonathan Mayer en Anunay Kulshrestha startte twee jaar geleden. De twee wilden kijken of ze een systeem konden ontwikkelen dat kindermisbruik op end-to-end versleutelde platformen kon detecteren.
Het lukte de onderzoekers om een werkend prototype te ontwikkelen, maar ze liepen naar eigen zeggen tegen een groot probleem aan. "Ons systeem was eenvoudig te hergebruiken voor surveillance en censuur. Het ontwerp was niet beperkt tot een specifieke contentcategorie; een platform kon een willekeurige content-matchingdatabase laden, en de persoon die het platform gebruikte zou het niet weten", aldus de onderzoekers in een column voor The Washington Post.
Een buitenlandse overheid zou bijvoorbeeld een platform kunnen dwingen om mensen aan te geven die onwelgevallige meningen hebben. Ook zou een malafide gebruiker het systeem kunnen manipuleren om zo onschuldige gebruikers aan controles bloot te stellen. De onderzoekers waren naar eigen zeggen zo geschrokken dat ze voor hun eigen systeemontwerp waarschuwden.
Mayer en Kulshrestha wilden hun onderzoek binnenkort tijdens een conferentie presenteren, totdat Apple een week voor de presentatie de eigen plannen voor een fotocontrolesysteem aankondigde. Het systeem van Apple is volgens de onderzoekers technisch niet effectiever dan wat zij ontwikkelden. "Maar we waren verbaasd om te zien dat Apple nauwelijks antwoorden had op de lastige vragen die wij hadden gesteld."
Volgens de onderzoekers is er letterlijk niets dat Apple kan doen wanneer bijvoorbeeld de Chinese overheid eist om iPhones op pro-democratisch materiaal te controleren. Apple heeft wel maatregelen aangekondigd om misbruik tegen te gaan, maar die schieten volgens de onderzoekers ernstig te kort.
"Apple gokt dat het het systeem tot bepaalde content in bepaalde landen kan beperken, ondanks immense overheidsdruk. We hopen dat het slaagt in zowel het beschermen van kinderen en het aanmoedigen van het bredere gebruik van encryptie. Maar laat er geen misverstand over zijn, Apple gokt met de security, privacy en vrijheid van meningsuiting wereldwijd", besluiten de onderzoekers.
Deze posting is gelocked. Reageren is niet meer mogelijk.