image

Onderzoekers die Apple-achtige fotoscan maakten: technologie is te gevaarlijk

vrijdag 20 augustus 2021, 16:54 door Redactie, 12 reacties

Twee onderzoekers van de Princeton University die net als Apple een systeem ontwikkelden voor het detecteren van kindermisbruik waarschuwen dat de technologie te gevaarlijk is om te gebruiken. Het onderzoeksproject van Jonathan Mayer en Anunay Kulshrestha startte twee jaar geleden. De twee wilden kijken of ze een systeem konden ontwikkelen dat kindermisbruik op end-to-end versleutelde platformen kon detecteren.

Het lukte de onderzoekers om een werkend prototype te ontwikkelen, maar ze liepen naar eigen zeggen tegen een groot probleem aan. "Ons systeem was eenvoudig te hergebruiken voor surveillance en censuur. Het ontwerp was niet beperkt tot een specifieke contentcategorie; een platform kon een willekeurige content-matchingdatabase laden, en de persoon die het platform gebruikte zou het niet weten", aldus de onderzoekers in een column voor The Washington Post.

Een buitenlandse overheid zou bijvoorbeeld een platform kunnen dwingen om mensen aan te geven die onwelgevallige meningen hebben. Ook zou een malafide gebruiker het systeem kunnen manipuleren om zo onschuldige gebruikers aan controles bloot te stellen. De onderzoekers waren naar eigen zeggen zo geschrokken dat ze voor hun eigen systeemontwerp waarschuwden.

Mayer en Kulshrestha wilden hun onderzoek binnenkort tijdens een conferentie presenteren, totdat Apple een week voor de presentatie de eigen plannen voor een fotocontrolesysteem aankondigde. Het systeem van Apple is volgens de onderzoekers technisch niet effectiever dan wat zij ontwikkelden. "Maar we waren verbaasd om te zien dat Apple nauwelijks antwoorden had op de lastige vragen die wij hadden gesteld."

Volgens de onderzoekers is er letterlijk niets dat Apple kan doen wanneer bijvoorbeeld de Chinese overheid eist om iPhones op pro-democratisch materiaal te controleren. Apple heeft wel maatregelen aangekondigd om misbruik tegen te gaan, maar die schieten volgens de onderzoekers ernstig te kort.

"Apple gokt dat het het systeem tot bepaalde content in bepaalde landen kan beperken, ondanks immense overheidsdruk. We hopen dat het slaagt in zowel het beschermen van kinderen en het aanmoedigen van het bredere gebruik van encryptie. Maar laat er geen misverstand over zijn, Apple gokt met de security, privacy en vrijheid van meningsuiting wereldwijd", besluiten de onderzoekers.

Reacties (12)
20-08-2021, 17:11 door Anoniem
Wat als Apple weet dat hun systeem misbruikt kan worden voor surveillance en censuur, maar dat dat juist de bedoeling is van dit alles? Net als de TPM chip in Windows 11 van Microsoft?

Gebruikers krijgen steeds minder controle over hun eigen aangeschafte hardware, maar wie heeft hier uiteindelijk baat bij?
20-08-2021, 17:24 door Anoniem
Door Anoniem: Wat als Apple weet dat hun systeem misbruikt kan worden voor surveillance en censuur, maar dat dat juist de bedoeling is van dit alles? Net als de TPM chip in Windows 11 van Microsoft?

Gebruikers krijgen steeds minder controle over hun eigen aangeschafte hardware, maar wie heeft hier uiteindelijk baat bij?

"Net als de TPM chip in Windows 11 van Microsoft"

Gedetailleerde onderbouwing hiervoor graag.
20-08-2021, 17:37 door Anoniem
Digitale dictatuur.

That’s no hypothetical: WeChat, the popular Chinese messaging app, already uses content matching to identify dissident material [1]. India enacted rules this year that could require pre-screening content critical of government policy. Russia recently fined Google, Facebook and Twitter for not removing pro-democracy protest materials.

[1] https://citizenlab.ca/2018/08/cant-picture-this-an-analysis-of-image-filtering-on-wechat-moments/
20-08-2021, 20:01 door Anoniem
We hebben toch zeker niet de illusie dat de Chinezen, Russen of Nederlanders dit zelf niet kunnen ontwikkelen?
20-08-2021, 20:45 door Anoniem
Door Anoniem: Wat als Apple weet dat hun systeem misbruikt kan worden voor surveillance en censuur, maar dat dat juist de bedoeling is van dit alles? Net als de TPM chip in Windows 11 van Microsoft?

Gebruikers krijgen steeds minder controle over hun eigen aangeschafte hardware, maar wie heeft hier uiteindelijk baat bij?

Je bezit niets dat zal de toekomst kunnen worden,
zelfs je eigen auto mogen rijden, zal in de toekomst beetje bij beetje eindigen,
je hoeft niet na te denken, je hoeft niet te vechten, je hoeft niet te praten,
wees lief en blij en wees vriendelijk tegen de regeringen,die
jou leven willen leiden.

Algoritme vs natuurlijk spontaan dromerig onnadenkend gedrag.

Mensen moeten wakker worden, maar ze gebruiken graag facebook,smartphone,lots
en steeds meer slimme apparaten, die algoritmen hanteren,
zodoende jou eigen devices meer jou gedrag zullen controleren
en wat je niet mag doen en fout doet en dat in kaart te brengen.
en deze data ook gaan versturen naar overheden,zorg,techbedrijven en
veel meer.

En de mensen die daar tegen zijn,dan zijn dan vreemde mensen
en krijgen dan label na label
opgeplakt dat ze niet deugen,zelfs natuurlijk humun gedrag
is niet meer mogelijk met een algoritme gedrags maatschappij.

Er is nu een slimme tandenborstel op de markt
die je poetsbewegingen goed of afkeurt,
deze tandenborstel denkt en beslist voor jou,en straft je
als je het niet goed genoeg doet,met een emoticon die dan zuur naar je kijkt
jij bent maar een instrument,waar alleen data uitgetrokken word,
en waaraan verdient kan worden.

mag je straks zelf nog denken,beslissingen nemen
of uberhaut een eigen leven lijden.

De Matrix
20-08-2021, 21:25 door Anoniem
When the going gets narrow keep an eye on the sparrow.
Dit zijn tijden waarin de burger wakker moet zijn t.a.v. globale totalitaire activiteit door de verborgen hand achter de schermen.
Being forewarned is being forearmed. Een gewaarschuwd eindgebruiker telt dus voor twee.
luntrus
20-08-2021, 21:47 door Anoniem
Door Anoniem:
Door Anoniem: Wat als Apple weet dat hun systeem misbruikt kan worden voor surveillance en censuur, maar dat dat juist de bedoeling is van dit alles? Net als de TPM chip in Windows 11 van Microsoft?

Gebruikers krijgen steeds minder controle over hun eigen aangeschafte hardware, maar wie heeft hier uiteindelijk baat bij?

"Net als de TPM chip in Windows 11 van Microsoft"

Gedetailleerde onderbouwing hiervoor graag.

https://www.cl.cam.ac.uk/~rja14/tcpa-faq.html

Het is een beetje een 'duh' document, maar realiseer je dat het in 2003 is geschreven en dat het meeste ondertussen is uitgekomen. De TPM chip, die verplicht wordt binnen vijf jaar voor Windows, zal er voor zorgen dat de software op je computer helemaal afgeschermd draait van alle andere software. Inclusief debuggers. Er zullen nog steeds fouten in zitten, net als nu, maar onderzoekers zullen die niet meer kunnen vinden. En als ze dat wel doen kunnen ze compleet verwijderd worden van het internet. Alles wat ze geschreven en gemaakt hebben en niet te vergeten hun hardware zelf. Met de account bans die Microsoft nu al hier en daar uitdeelt kun je het begin hiervan zien. Het is een heel enge toekomst en zowel de CEO van Apple als van Microsoft werken hieraan mee.

Als je in de toekomst Linux gaat gebruiken zul je een hoop content op het internet niet meer kunnen zien. Dus ook Linux gaat verdwijnen tenzij ze mee gaan doen met Apple en Microsoft en ook TPM gaan gebruiken om content providers tevreden te stellen.

Anoniem 17:11

P.S. Joe Biden heeft zich vroeger laten spannen voor het karretje van de content industrie, dus van hem hoeven we niets te verwachten de komende vier jaar. Hij weet wie zijn herverkiezing zal financieren. En anders krijgen we een tweede termijn Trump.
21-08-2021, 04:39 door [Account Verwijderd]
Een buitenlandse overheid zou bijvoorbeeld een platform kunnen dwingen om mensen aan te geven die onwelgevallige meningen hebben.

"Een buitenlandse"... Grapjassen. Nederland is al vele jaren kampioen afluisteren. Aangezien de overheid zich 'niet aan de wet hoeft te houden', gebruiken ze dat hier ook. Makkelijk zat. Voor dit soort conclusies heb je echt geen cursus Einstein nodig.

Wat ze er hier mee gaan doen op lange termijn is nog niet duidelijk. Maar aangezien we rap richting WEF dictatuur gaan, lijkt dit me een logische tool om tegenstanders van het regime in kaart te brengen en uit te roeien.
21-08-2021, 09:44 door Anoniem
Je bezit niets dat zal de toekomst kunnen worden,
Leuk verhaal De Matrix maar wij zijn de toekomst sneller aan het verwijderen dan dat tech bedrijven ons hun wil kunnen
op te leggen. Misschien hoort zelfvernietiging wel bij het voortbestaan van leven het op deze aarde zoals bosbranden
voor het voorbestaan van bossen, ik heb geen medeleven meer voor wie dan ook want wij doen aan deze vernietig zowat allemaal mee, bewust of onbewust mee Ja misschien toch wel medeleven voor zij die niets hebben met nooit genoeg.
21-08-2021, 10:34 door Anoniem
Je kunt negatief gaan lopen doen over trusted computing (hierboven verward met "de TPM chip") maar het kan behalve
de wellicht als negatief ervaren bescherming van copyrighted content, ook zorgen voor een trust pad richting de makers
van software. Daarmee kan het, voor mensen die daar voor kiezen, het risico op malware en trojans enorm verminderen.

Je kunt daar persoonlijk tegen zijn, maar ik denk dat "de wereld" hier erg op zit te wachten!
21-08-2021, 12:21 door Anoniem
Door Anoniem: Je kunt negatief gaan lopen doen over trusted computing (hierboven verward met "de TPM chip") maar het kan behalve
de wellicht als negatief ervaren bescherming van copyrighted content, ook zorgen voor een trust pad richting de makers
van software. Daarmee kan het, voor mensen die daar voor kiezen, het risico op malware en trojans enorm verminderen.

Je kunt daar persoonlijk tegen zijn, maar ik denk dat "de wereld" hier erg op zit te wachten!

Klopt. Als je de TPM sleutel voor malware centraal intrekt, is die op alle computers in de wereld tegelijk verwijderd. Dan moet je natuurlijk wel weten dat het malware is en dat is moeilijk te zien als je niet bij de code kan omdat de TPM chip die afschermt.

Sony had ooit een rootkit die ze op hun audio cd's hadden gezet. Voor de een is het malware, voor de ander content protection.

Anoniem 17:11
21-08-2021, 18:42 door karma4
Apple en google verdelen de smartphone markt, daarmee hebben die twee de mogelijkheid om op een door hun te bepalen moment content en meningen gefilterd te delen met een door hun te bepalen partij. E.Snowden was ingehuurd voor een praktijkinvulling. Dat staat geheel los van van beeldherkenning om het nu of kat/hond dan wel kindermisbruik gaat. Dat soort software is tegenwoordig open source en maakt deel uit van de huidige generatie die leert te coderen. (Python - R en meer).
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.