image

Apple scant e-mailbijlagen iCloud Mail sinds 2019 op kindermisbruik

maandag 23 augustus 2021, 16:04 door Redactie, 12 reacties

Apple scant e-mailbijlagen die via iCloud Mail worden verstuurd en ontvangen al sinds 2019 op kindermisbruikmateriaal, zo laat het techbedrijf tegenover 9to5Mac weten. Vorig jaar vertelde Eric Friedman, hoofd van Apples Fraud Engineering Algorithms and Risk-eenheid, tijdens een iMessage-gesprek met een collega dat Apple het grootste platform voor de verspreiding van kinderporno is.

Het gesprek werd gevonden in de documenten van de rechtszaak tussen Apple en Epic Games. De vraag was echter hoe Friedman dit kon weten als Apple geen iCloud-accounts scant. In een verklaring legt Apple uit dat het nog nooit afbeeldingen in iCloud Photos heeft gescand. Wel erkent het techbedrijf dat het sinds 2019 alle inkomende en uitgaande e-mailbijlagen van iCloud Mail controleert.

Apple gaf tegenover 9to5Mac ook aan dat het andere data scande, maar liet niet weten wat dit precies is, behalve dat het op kleine schaal plaatsvindt. Onlangs kondigde Apple aan dat het afbeeldingen die Amerikaanse gebruikers naar iCloud Photos uploaden wil gaan scannen op kindermisbruik, wat voor felle kritiek van burgerrechtenbewegingen en allerlei experts zorgde.

Reacties (12)
23-08-2021, 16:21 door Anoniem
Wacht even ...die zijn naar secure telephony verhuisd en nu gebruiken ze dit zeker om encryptie te "ontmoedigen".

Oooo dit is slechts een trede v.e. trap naar iets groters...Nu nog even wachten op Grapperhaus zijn reactie dan is het verhaal weer compleet.
23-08-2021, 16:42 door Anoniem
Ze zijn verantwoordelijk voor het schoon houden van hun eigen infra. Dat er scans gebeuren op keywords in de mail is niks nieuws. Dat doe je als ISP ook op virussen niet iets wat je lang en breed wil gaan uitleggen natuurlijk maar goed. De andere data waarop ze doelen kun je waarschijnlijk gewoon omschrijven als alles in iCloud bij gerechtelijk bevel. Again weer niks nieuws Dropbox doet dit ook bijvoorbeeld preventief en ik denk dat er maar weinig zijn in de cloudopslag branch die niet iets van detectie hebben.
hxxps://gizmodo.com/dropbox-refuses-to-explain-its-mysterious-child-porn-de-1722573363

Maar waar de felle kritiek voornamelijk op gericht is dat er algoritmes lokaal worden losgelaten zonder dat de eigenaar van het apparaat dit kan uitschakelen in tegen stelling dat het gebruik van iCloud vrijwillig is bij je Apple apparaten. En of je dan wel of niet iCloud aan moet hebben staan om die informatie te versturen doet er niet toe. Het is hoe dan ook zonder toestemming aan het scannen zonder enige grondslag. En de kans dat dit beperkt blijft tot foto's is nagenoeg nul het zal alleen even duren tot de commotie gezakt is of er een ander groter schandaal zich voordoet om het op te voeren.

De code zit er al in sinds 14.3 echter deze kan *niet* op afstand geactiveerd worden het is niet volledige, nog gecompiled.
Tot versie 14.7.1 ben je nu nog veilig voor deze onzin, erboven loop je risico. De nog komende 14.8 gedubbed als surprise update zou ik laten liggen tot deze ge-audit is want ik zie Apple helaas nog wel eens in staat om dit ook nog snel in de 14 reeks te gooien. De publiekelijke imago schade hebben ze toch al.
23-08-2021, 16:43 door Anoniem
Als Apple de infrastructuur levert, zoals bij iCloud, dan mogen ze best voorwaarden stellen daaraan. Een webhoster mag ook voorwaarden stellen en die handhaven.

Wat hier aan de hand is, is dat Apple actief een lijst met NeuralHashes upload naar je device, je device daarmee laat scannen naar materiaal dat hun of hun politieke leiders op dat moment niet aanstaat, en als je device dat vindt, die zonder tussenkomst van de gebruiker upload naar Apple's infrastructuur om die door een mens te laten beoordelen.

Er was een tijd dat een verplichte virusscanner onder Windows controversieel was.
Er was een tijd dat verplichte telemetrie van een besturingssysteem controversieel was.
We zijn duidelijk in een nieuw fase beland als dit door Apple doorgevoerd gaat worden.
23-08-2021, 17:10 door Anoniem
Ja en ze delen al veel langer alle icloud data met xkeyscore....
23-08-2021, 18:15 door Anoniem
Tja, Big Tech. Meer macht hebbende dan alle anderen, inclusief hele landen. Wie dit niet heeft zien aankomen moet het ook maar zelf uitzoeken.
23-08-2021, 21:06 door Anoniem
Apple en gedrag en privacy,
waarom gebruikt men nog apple
Door Anoniem: Als Apple de infrastructuur levert, zoals bij iCloud, dan mogen ze best voorwaarden stellen daaraan. Een webhoster mag ook voorwaarden stellen en die handhaven.

Wat hier aan de hand is, is dat Apple actief een lijst met NeuralHashes upload naar je device, je device daarmee laat scannen naar materiaal dat hun of hun politieke leiders op dat moment niet aanstaat, en als je device dat vindt, die zonder tussenkomst van de gebruiker upload naar Apple's infrastructuur om die door een mens te laten beoordelen.

Er was een tijd dat een verplichte virusscanner onder Windows controversieel was.
Er was een tijd dat verplichte telemetrie van een besturingssysteem controversieel was.
We zijn duidelijk in een nieuw fase beland als dit door Apple doorgevoerd gaat worden.

Nu nog de gebruikers zover krijgen dat ze het minder gaan gebruiken
of het weer gaan aanschaffen,de techbedrijven en overheden kun je niet de schuld geven,
maar als mensen gaan veranderen in de aanschaf en gebruik hiervan,pas dan veranderen
techbedrijven en overheden mee,maar het is kennelijk net zo verslavend voor gebruikers als het
gebruiken van facebook,dus zal dit nog een lange weg te gaan hebben.

The Matrix
24-08-2021, 06:56 door Anoniem
Apple gaf tegenover 9to5Mac ook aan dat het andere data scande, maar liet niet weten wat dit precies is, behalve dat het op kleine schaal plaatsvindt.

Andere data dan vieze plaatjes met kids scannen!?

Vooraf[¿] melden dat je het 'nieuwe' neuralhash systeem alleen gaat gebruiken voor ondeugende alom ongewenste kp (een soort van veto/troef reden waar niemand tegen kan zijn(,anders ben je mss zelf wel zo'n viespeuk)), maar toch al bezig zijn (net als die andere 'zogenaamde-' selfmade opsporingsdiensten als alpha en fb) om, zonder opdracht van een rechter met een huiszoekingsbevel, je als verdachte te labelen en alles wat je mailt na te kijken op 'ongewenst' materiaal, heet liegen.

Vraag ik me af met wat de inhoud wordt vergeleken, of staat die neuralhash-dB (aka photodna-hashes) ook al stiekem op je iDevice?

Oh...,  en dus niet alleen daar word ál op gecontroleerd, maar ook op 'andere' data dan kp waar hij zich niet verder over uit wilt spreken....
en dan (nogmaals) vooraf zeggen dat je dat niet gaat doen, terwijl je het al doet...

en dan kort daarna aangeven dat je het vertrouwen van de privacy-aangerande gebruiker terug moet winnen !!!

't Is dat het merendeel van z'n 'gebruikers' verslaafd is aan z'n goedje en we in een era leven waar je met uitgesproken leugens (zie trump, rutte, etc) wegkomt, dat het me niets zal verbazen dat z'n junkies hun schouders ophalen en vrolijk door mailen en backuppen naar de icloud.
24-08-2021, 07:24 door Anoniem
Als Nieuw China overal al wordt geïntroduceerd is er geen weg terug. De 'clamps have come down' via het lockstep scenario. Knap iemand die zich eraan weet te ontworstelen.
24-08-2021, 07:54 door Anoniem
Het wordt hoe langer hoe duidelijker: je crapple device is niet van jou. Je mag het alleen naar goedvinden van crapple een beetje gebruiken.
De eerste hint was natuurlijk al dat je zelf geen 'root' rechten hebt op je eigen hardware. En toch blijven de schaapjes het kopen.
24-08-2021, 08:23 door Anoniem
Door Anoniem: Ze zijn verantwoordelijk voor het schoon houden van hun eigen infra. Dat er scans gebeuren op keywords in de mail is niks nieuws. Dat doe je als ISP ook op virussen niet iets wat je lang en breed wil gaan uitleggen natuurlijk maar goed. De andere data waarop ze doelen kun je waarschijnlijk gewoon omschrijven als alles in iCloud bij gerechtelijk bevel. Again weer niks nieuws Dropbox doet dit ook bijvoorbeeld preventief en ik denk dat er maar weinig zijn in de cloudopslag branch die niet iets van detectie hebben.
hxxps://gizmodo.com/dropbox-refuses-to-explain-its-mysterious-child-porn-de-1722573363

Maar waar de felle kritiek voornamelijk op gericht is dat er algoritmes lokaal worden losgelaten zonder dat de eigenaar van het apparaat dit kan uitschakelen in tegen stelling dat het gebruik van iCloud vrijwillig is bij je Apple apparaten. En of je dan wel of niet iCloud aan moet hebben staan om die informatie te versturen doet er niet toe. Het is hoe dan ook zonder toestemming aan het scannen zonder enige grondslag. En de kans dat dit beperkt blijft tot foto's is nagenoeg nul het zal alleen even duren tot de commotie gezakt is of er een ander groter schandaal zich voordoet om het op te voeren.

De code zit er al in sinds 14.3 echter deze kan *niet* op afstand geactiveerd worden het is niet volledige, nog gecompiled.
Tot versie 14.7.1 ben je nu nog veilig voor deze onzin, erboven loop je risico. De nog komende 14.8 gedubbed als surprise update zou ik laten liggen tot deze ge-audit is want ik zie Apple helaas nog wel eens in staat om dit ook nog snel in de 14 reeks te gooien. De publiekelijke imago schade hebben ze toch al.
Goede en heldere toelichting, dank!
24-08-2021, 10:06 door Briolet
Door Anoniem: Het wordt hoe langer hoe duidelijker: je crapple device is niet van jou. …

Typisch gevalletje van klok-klepel. Herlees het artikel.
26-08-2021, 09:20 door Anoniem
Apples omstreden nieuwe detectiesysteem maakt nul fouten – zegt Apple

Vijf vragen over het systeem

https://www.nrc.nl/nieuws/2021/08/25/apple-ons-detectiesysteem-maakt-nul-fouten-a4056070


1. Hoe werkt het?

Het systeem [1] slaat alarm bij – vooralsnog – dertig verdachte plaatjes per telefoon, waarna een team van menselijke beoordelaars kijkt of een gebruiker inderdaad kinderporno in de cloud probeert op te slaan.

[1] https://www.apple.com/child-safety/pdf/CSAM_Detection_Technical_Summary.pdf


2. Kan het toch fout gaan?

Ja.

De onderzoeker Asuhariet Ygvar vond een vorige versie [2] van Apples hashdatabase, waarmee je verschillende afbeeldingen dezelfde vingerafdruk [3] mee kunt geven. Dat biedt ruimte voor manipulatie

[2] https://www.reddit.com/r/MachineLearning/comments/p6hsoh/

[3] https://github.com/AsuharietYgvar/AppleNeuralHash2ONNX/issues/1


De techniek kan worden misbruikt om iemands reputatie te beschadigen. Als een kwaadwillende je bijvoorbeeld via WhatsApp verboden beeldmateriaal stuurt, dan slaat het systeem aan als de iPhone die beelden in de iCloud opslaat.


3. Kan het systeem misbruikt worden?

Ja. Experts zijn bang voor 'function creep'. Apple kan door een corrupt regime worden gedwongen om het systeem uit te breiden, zodat het ook op andere afbeeldingen kan zoeken, bijvoorbeeld om politieke tegenstanders uit te schakelen.

Alex de Joode, risiscomanager bij internetknooppunt ASM-IX, ziet er geen kwaad in. „Je laat toch ook je PC scannen door Microsoft? Dat gaat veel verder; zulke virusscanners kijken in elk bestand.”


4. Hoe werkt het in Nederland?

De detectietechniek zal ook buiten de VS werken, laat Apple weten. Daarbij let het systeem op de regio die een iPhone- of iPad-gebruiker kiest bij de installatie van een nieuw toestel.


5. Waarom stelt Apple dit nu voor?

Apple sorteert voor op nieuwe wetgeving en maakt daarmee en passant het invoeren van verplicht scannen makkelijker.

Het artikel in de NRC vermeldt niet over welke wetgeving het in de VS of over welke aanstaande EU wetgeving het gaat.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.