Het expertisecentrum online misbruik Offlimits vreest onterechte veroordelingen van burgers als client-side scanning wordt ingevoerd om de chatberichten van burgers te controleren zoals de Europese Commissie wil. Inmiddels zou EU-voorzitter Spanje het gebruik van kunstmatige intelligentie bij client-side scanning willen uitstellen totdat de technologie volwassener is, om die mogelijk alsnog later te kunnen gebruiken. Dat meldt de NOS.
"Het scannen van privé-communicatie is een inbreuk op de privacy van het kind en is een schending van artikel 16 van het Kinderrechtenverdrag van de Verenigde Naties, hetgeen alleen gerechtvaardigd zou zijn wanneer het kind beter beschermd wordt. Maar het voorstel maakt het internet juist onveiliger voor kinderen", aldus Offlimits, waar het Meldpunt Kinderporno onder valt.
Volgens Offlimits zorgt het voorstel van de Europese Commissie ervoor dat alle afbeeldingen onderschept kunnen worden, juist ook wanneer er geen problematische situatie is. Vervolgens worden de afbeeldingen door vele mensen bekeken om te analyseren. "Daarmee wordt er onnodig een enorme inbreuk gepleegd op de privacy van het kind. Het voorstel heeft dus geen rekening gehouden met de diversiteit van de redenen om naaktbeelden te delen, noch het feit dat veel materiaal vrijwilliger gedeeld wordt."
De Europese Commissie wil bekend en onbekend misbruikmateriaal detecteren, alsmede grooming. Voor onbekend materiaal en grooming zouden AI-systemen de inhoud van chatberichten moeten controleren. Gedetecteerd materiaal wordt vervolgens naar een Europees centrum doorgesteuurd. Demissionair minister Yesilgöz van Justitie en Veiligheid stelde eerder tegenover de Tweede Kamer dat deze AI-systemen nog niet betrouwbaar zijn. Nederland kan wel instemmen met detectie van bekend materiaal, maar de inzet van AI-systemen noemde Yesilgöz disproportioneel.
Deze week werd er door Europese ministers over het voorstel van client-side scanning onderhandeld. De NOS meldt dat EU-voorzitter Spanje een aangepaste versie heeft gepresenteerd, waarbij AI-systemen voorlopig niet worden ingezet totdat de technologie beter werkt. De inzet zou later alsnog mogelijk zijn zonder het wetgevingsproces opnieuw te hoeven doorlopen.
Gisteren vond in de Tweede Kamer een rondetafelgesprek plaats waarbij hoogleraren Kamerleden informeerden over client-side scanning. Daarbij werd gewaarschuwd voor de vergaande gevolgen van de technologie. Als de infrastructuur er eenmaal is, kan die ook voor de detectie van allerlei andere content worden gebruikt, zoals chatberichten of afbeeldingen met daarin woorden als demonstratie en spotprent, waarschuwde Frederik Zuiderveen Borgesius, hoogleraar ICT en recht aan de Radboud Universiteit.
Een ander probleem zijn false positives, waarbij berichten onterecht als misbruikmateriaal worden aangemerkt. Iets dat ook bij het gebruik van een hashingdatabase mogelijk is, stelde Jaap-Henk Hoepman, universitair hoofddocent privacy en technologie aan de Radboud Universiteit. De technologie die partijen zoals Apple en Microsoft gebruiken hanteren marges, zodat de aanpassing van een pixel niet ervoor zorgt dat bekende afbeeldingen niet meer worden gedetecteerd, maar dit kan er ook toe leiden dat onschuldige foto's worden aangemerkt als misbruikmateriaal.
De scans zouden in het ergste geval tot onterechte veroordelingen kunnen leiden, vreest Offlimits. Volgens de organisatie hoeft de persoon die gedetecteerd materiaal verspreidt niet altijd de eigenaar van de telefoon te zijn. " Programma’s die gebruik maken van artificiële intelligentie of het scannen op tekst zijn niet volwassen genoeg om ingezet te worden voor een detectie die uiteindelijk kan leiden tot rechtsvervolging", laat Offlimits weten.
Als laatste benadrukt Offlimits dat preventie nagenoeg geen rol heeft en preventie van daderschap veel te weinig aandacht heeft in het voorstel. In alle gevallen heeft voorkomen van het misbruik de voorkeur boven het slechts detecteren van kwaad dat als geschied is.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.