image

Experts: client-side scanning onbetrouwbaar en leidt tot valse beschuldigingen

maandag 13 november 2023, 10:19 door Redactie, 19 reacties

Client-side scanning, waarmee de Europese Commissie alle chatberichten van burgers wil controleren, is een onbetrouwbare technologie en kan tot allerlei valse beschuldigingen leiden waarbij mensen ten onrechte worden aangemerkt als verzender van misbruikmateriaal of slachtoffer. Dat lieten experts weten tijdens een seminar met de naam 'The Point of No Return?' dat door de Europese privacytoezichthouder EDPS was georganiseerd en waarvan een samenvatting online is verschenen (pdf).

Volgens de EDPS zijn er brede zorgen over het voorstel met betrekking tot de privacygevolgen en haalbaarheid van de voorgestelde maatregelen. Met het seminar wil de privacytoezichthouder stakeholders verzamelen die de afgelopen jaar hebben gewaarschuwd voor de risico's van client-side scanning en de misvattingen over de effectiviteit ervan. De experts stelden dat client-side scanning geen oplossing is voor de aanpak van misbruikmateriaal, zoals Brussel claimt.

Daarnaast zou het scanplan ook de privécommunicatie van mensen raken die niets met kindermisbruik te maken hebben. Verschillende experts merkten op dat een groeiend aantal afbeeldingen dat als misbruikmateriaal wordt aangemerkt dit niet is, maar zelfgeproduceerde afbeeldingen van minderjarigen zijn die dit met toestemming onderling uitwisselen. Daardoor is er een risico dat bij de inzet van client-side scanning mensen ten onrechte worden beschuldigd of aangemerkt als misbruikslachtoffer.

Verder waarschuwden de experts dat huidige technologieën voor het detecteren van onbekend misbruikmateriaal en grooming niet voldoende betrouwbaar zijn, wat leidt tot algemene en ongerichte monitoring van privéberichten. Dergelijke algemene surveillance kan volgens de experts geen oplossing zijn voor het genoemde probleem. Ook ondermijnt client-side scanning end-to-end encryptie, dat juist essentieel is voor het tegengaan van allerlei cyberdreigingen.

Een ander punt dat de experts noemden is dat het Brusselse scanplan zich teveel richt op privéchats tussen mensen, terwijl misbruikmateriaal vaak op image hostingwebsites wordt aangetroffen. Daarnaast bestaat het risico dat de hoeveelheid afbeeldingen die door client-side scanning als verdacht wordt aangemerkt de systemen van opsporingsdiensten zal overweldigen, wat de aanpak juist tegenwerkt in plaats van versterkt.

EDPS-voorzitter Wojciech Wiewiorowski sloot het seminar af door te stellen dat het scanplan niet alleen een bedreiging voor de privacy is, maar het internet en digitale communicatie zoals we dat nu kennen fundamenteel zal veranderen.

Reacties (19)
13-11-2023, 10:26 door Anoniem
En een valse beschuldiging leidt er dus ook direct toe dat al je data op een plek ligt waar je die niet wilt hebben: bij de overheid.
Maar ja... daar is het diezelfde overheid nou net om te doen: toegang tot data en een koevoet creëren.
De overheid is er niet voor de burger. Maar braaf VVD blijven stemmen hoor!
13-11-2023, 11:06 door Anoniem
Daarnaast zou het scanplan ook de privécommunicatie van mensen raken die niets met kindermisbruik te maken hebben. Verschillende experts merkten op dat een groeiend aantal afbeeldingen dat als misbruikmateriaal wordt aangemerkt dit niet is, maar zelfgeproduceerde afbeeldingen van minderjarigen zijn die dit met toestemming onderling uitwisselen. Daardoor is er een risico dat bij de inzet van client-side scanning mensen ten onrechte worden beschuldigd of aangemerkt als misbruikslachtoffer.

Wat zijn dat nou weer voor 'experts'??? Het punt is juist dat de ouders van die minderjarigen wellicht in onderling overleg die afbeeldingen uitwisselen, maar dat de minderjarigen daar geen toestemming voor geven en ook niet KUNNEN geven!
M.a.w. deze categorie is niet "ten onrechte beschuldigd" maar juist precies wie men wil vangen!
(de clubjes die vinden dat het allemaal wel OK is wat ze doen)
13-11-2023, 12:29 door Anoniem
Ik maak mij hier grote zorgen om. Als dit door gaat wordt iedereen in principe als potentieel dader als gevolgd en gaat vanalles in een grote databak en worden geanalyseerd. Bij banken ging dit onder de wwft al fout omdat klanten op basis van ongefilterde signalen al direct als risico en witwasser werden weggezet. Dan gaat dit op EU niveau helemaal een catastrofe worden waar straks hele hordes advocaten hun geld mogen gaan verdienen met rechtzaken om onschuld te bewijzen. Los van de schade die je als persoon al oploopt als ze je hiervoor oppakken obv deze gegevens, want we weten een ding: er zijn hele volksstammen die een onbewezen signaal al zien als een veroordeling en je dan als persoon ook al wegzetten als crimineel.
13-11-2023, 12:38 door Anoniem
en ze vergeten nog een punt....
wanneer er teveel berichten ontstaan, bijvoorbeeld dat een hele buurt van meta/alfabet/microsoft is geschopt, omdat ze bijvoorbeeld een een foto gedeeld hebben van het buurtfeest waar een broekpoeper in het pierenbadje heeft gespeeld, dan gaan mensen deze clubjes vanzelf opgeven, het risico op false positives wordt te hoog...

Wanneer je door lid te zijn van een whatsapp buurtpreventie groepje, je bankrekening, je baan, je huis enz kwijt kan raken... dan ga je wel 2 keer nadenken of je nog wel je hoofd op het maaiveldblok wilt leggen door iets doms te doen als chatten met whapsflap, google chat, apple messages enz...

Je zult gaan zien dat mensen alternatieven gaan zoeken om 'vrij' te kunnen communiceren, waardoor je eigenlijk het tegenovergestelde gaat bereiken... Hele groepen mensen die onschuldig zijn maar om risico te vermijden hun communicatie gaan zoeken in vage obscure groepen, tools en applicaties... juist daar waar de viespeuken zich bevinden... Je maakt de van de hooiberg spelden....
13-11-2023, 13:16 door Anoniem
De overheid wil gewoon lekker kijken naar de plaatjes van uw dochters die met hun leeftijdsgenoten flirten, althans, dat gaat er dan wel gebeuren, ze kunnen beter alvast wat mensen inhuren die daar geen problemen mee hebben, die vind je meestal op het darkweb, niet in chats.
13-11-2023, 13:51 door Anoniem
Het toeslagen affaire effect als risico

EU2023
13-11-2023, 13:57 door Anoniem
Als Ashton Kutcher het wil moet het toch doorgaan.
13-11-2023, 14:04 door Anoniem
risico dat bij de inzet van client-side scanning mensen ten onrechte worden beschuldigd of aangemerkt als misbruikslachtoffer.
En dat zelfs met terugwerkende kracht.
Was je aanvankelijk slachtoffer van een nucleaire bom in Hiroshima, ben je anno 2016 ineens zeden-slachtoffer (aldus Meta).
13-11-2023, 14:28 door Anoniem
Dit voorstel is toch afgeschoten? Hoelang blijven we hier nog over doormodderen met beginnende teksten als quote "Client-side scanning, waarmee de Europese Commissie alle chatberichten van burgers wil controleren...". Dit zou suggereren dat het nog steeds in de pijplijn zit. Volgens mij gaat het niet gebeuren.

Enige waar ik nog over wil horen, en hoop ook met mij veel anderen, is punten rondom dit onderwerp:
- Eventuele persoonlijke belangen van de mensen hierachter in het EC/EU.
- Eventuele nieuwe trajecten rondom dit onderwerp.

Hoe dan ook, ik denk wel dat er wat moet gebeuren aan internet, want platforms als twitter/x/whatever zijn wel echt de nieuwe open riolering geworden. Wel komen er op risico platformen uniforme meld functies, etc (waar ik wel voor ben!). Hoe dan ook, er moet wel IETS gebeuren her en der.

Daarnaast, en dat zullen hier wel een aantal lezers vervelend vinden, we moeten ook eens stoppen om achter elke struik, of onder elke stoeptegel te denken dat er een camera en of microfoon is verstopt.

Ja ik ben sceptisch, en JA absoluut tegenstander van deze massasurveilance, maar er is ook echt een groot deel van de mensen met uitingen rondom welke vorm van digitale reguliering die gelijk naar de keuken rennen om de rol aluminiumfolie te pakken om zich te daarmee vrolijk in te wikkelen. Absoluut een psychisch probleem.
13-11-2023, 15:42 door Anoniem
En wat nu als ik vanuit willekeurige whatsapp nummers verboden materiaal ontvang? Wordt het ontvangen van materiaal gelijk gesteld aan het actief verkrijgen van materiaal? Want dan kan iemand mij iets versturen waar ik niet om vraag en wordt mijn device geflagged als verdacht en staat om vijf uur de politie aan de deur om alle apparaten in beslag te nemen?

En waar begint en eindigt CSS? Is elke endpoint een Client? Wordt de update ook uitgerold op Windows (want Whatsapp Web)? Op Windows servers? Op cloud servers?
13-11-2023, 16:47 door Anoniem
Door Anoniem: En wat nu als ik vanuit willekeurige whatsapp nummers verboden materiaal ontvang? Wordt het ontvangen van materiaal gelijk gesteld aan het actief verkrijgen van materiaal? Want dan kan iemand mij iets versturen waar ik niet om vraag en wordt mijn device geflagged als verdacht en staat om vijf uur de politie aan de deur om alle apparaten in beslag te nemen?

En waar begint en eindigt CSS? Is elke endpoint een Client? Wordt de update ook uitgerold op Windows (want Whatsapp Web)? Op Windows servers? Op cloud servers?

Stel dat je Mark R heet en je ziet dat je in je race naar presidentschap last krijgt van een man met teveel waterstof peroxide.. dan laat je toch je 'dienst' een paar berichtjes sturen... lek je het naar het parool of een ander 'kuch' kwaliteitskrant, en de ambities van je concurent zijn verdwenen als sneeuw voor de zon... je hoeft niet eens meer een paar vrouwen geld te geven om iemand eraan te naaien, zoals een man die dacht dat een bepaalde locatie in london handig was om als vluchteling te belanden.
13-11-2023, 21:57 door Anoniem
Door Anoniem: Dit voorstel is toch afgeschoten? Hoelang blijven we hier nog over doormodderen met beginnende teksten als quote "Client-side scanning, waarmee de Europese Commissie alle chatberichten van burgers wil controleren...". Dit zou suggereren dat het nog steeds in de pijplijn zit. Volgens mij gaat het niet gebeuren.

Het enige dat gebeurd is, is dat het EP een ander aangepast, veel minder ingrijpend voorstel als vervanging van het voorstel van de EC heeft ingediend. Dat nu door de Raad van Minister behandeld moet worden. je weet wel: door Dilan Yesilgoz-Zegerius en consorten.
Die een heel andere mening aanhangen, dan het voorstel van het EP.

Dus de race is echt nog niet gelopen.
En zou zelfs nof veel slechter uit kunnen vallen voor de burgers van Europa.
13-11-2023, 23:40 door Anoniem
Ik lees hierboven dat men denkt dat het afgeschoten is? Niets is minder waar, dit is er zo goed als doorheen. Er is breed draagvlak voor deze sterke aanpak onder bijna alle Europese landen.
13-11-2023, 23:57 door Anoniem
Preventief fouilleren moet zeer beperkt zijn en liever nog verboden worden volgens sommigen, want profilering, bevooroordeling, schending mensenrechten en racisme. Uiteraard heeft preventief fouilleren geen enkel effect op de misdaden die kinderen aangedaan kunnen worden, en al zou het effect hebben, dat is minder erg dan dat preventief fouilleren.

Preventief scannen van alle (voor versleuteling) communicaties op alle devices, op een foutgevoelige manier, met alle kans op "function creep", automatische blokkade van verdachte communicatie, en automatische melding naar de politie (of iets soortgelijk), is de enkele manier om digitaal kindermisbruik te beperken. Dus proportioneel, privacy vriendelijk, zeker niet mensenrechten schendend en super veilig.

Zeer logisch allemaal. Geeft in het geheel niet de indruk dat er commerciële en/of politieke belangen achtersteken. Wat het gegarandeerd niet is, is uitbreiding van macht en controle. Daarbij, niemand wordt er beter van met massa's aan (meta)data van zo'n beetje iedereen. Toch?

Vraagje, hoe makkelijk en snel is dat CSS permanent uit te schakelen? Mochten toekomstige leiders er vanaf willen? Of is het tegen die tijd dermate geïntegreerd dat het niet meer uit te schakelen valt?
14-11-2023, 00:24 door Anoniem
Door Anoniem: Dit voorstel is toch afgeschoten? Hoelang blijven we hier nog over doormodderen met beginnende teksten als quote "Client-side scanning, waarmee de Europese Commissie alle chatberichten van burgers wil controleren...". Dit zou suggereren dat het nog steeds in de pijplijn zit. Volgens mij gaat het niet gebeuren.

Enige waar ik nog over wil horen, en hoop ook met mij veel anderen, is punten rondom dit onderwerp:
- Eventuele persoonlijke belangen van de mensen hierachter in het EC/EU.
- Eventuele nieuwe trajecten rondom dit onderwerp.

Hoe dan ook, ik denk wel dat er wat moet gebeuren aan internet, want platforms als twitter/x/whatever zijn wel echt de nieuwe open riolering geworden. Wel komen er op risico platformen uniforme meld functies, etc (waar ik wel voor ben!). Hoe dan ook, er moet wel IETS gebeuren her en der.

Daarnaast, en dat zullen hier wel een aantal lezers vervelend vinden, we moeten ook eens stoppen om achter elke struik, of onder elke stoeptegel te denken dat er een camera en of microfoon is verstopt.

Ja ik ben sceptisch, en JA absoluut tegenstander van deze massasurveilance, maar er is ook echt een groot deel van de mensen met uitingen rondom welke vorm van digitale reguliering die gelijk naar de keuken rennen om de rol aluminiumfolie te pakken om zich te daarmee vrolijk in te wikkelen. Absoluut een psychisch probleem.
Het voorstel is alleen in de ijskast gezet, het is niet weg. Het zal steeds weer terugkomen.
14-11-2023, 09:55 door Anoniem
Door Anoniem:
Door Anoniem: Dit voorstel is toch afgeschoten? Hoelang blijven we hier nog over doormodderen met beginnende teksten als quote "Client-side scanning, waarmee de Europese Commissie alle chatberichten van burgers wil controleren...". Dit zou suggereren dat het nog steeds in de pijplijn zit. Volgens mij gaat het niet gebeuren.

Het enige dat gebeurd is, is dat het EP een ander aangepast, veel minder ingrijpend voorstel als vervanging van het voorstel van de EC heeft ingediend. Dat nu door de Raad van Minister behandeld moet worden. je weet wel: door Dilan Yesilgoz-Zegerius en consorten.
Die een heel andere mening aanhangen, dan het voorstel van het EP.

Dus de race is echt nog niet gelopen.
En zou zelfs nof veel slechter uit kunnen vallen voor de burgers van Europa.
Da's ook mij opgevallen, alles wat een EC'r verzint zal er hoe-dan-ook komen!
Van het EC gaat het naar de EP'rs
die mogen niet tegen stemmmen want dan hebben ze helemaal geen inspraak meer
dus voor stemmen , maaaaaar mits met mijn EP verander-dit-voorwaarde plasje erover heen
gaat naar ER, kijkt ernaar, stuurt het weer naar de EC
EC past ook weer wat aan de voorgestelde voorwaarden
de afgezwakte aanbeveelde wet gaat weer naar EP'rs
totdat de wet is aangenomen
en dan zorgt function creep wel voor de rest!
14-11-2023, 13:27 door Anoniem
EU, je komt er nooit meer vanaf.
14-11-2023, 19:53 door Anoniem
In de kern gaat het om handel. Dat zag je bij die prikacties, miljarden van die ampullen zijn ongebruikt weg geknikkerd, en vele ondernemingen (concurrentie) gingen over de kop. Dat zag en zie je bij die milieuvriendelijke houtkap, met diesel, die met stookolie hierheen kwam en komt, eventueel gedroogd met gas, en vervolgens verbrand, teneinde als stoepverwarmers te dienen, tegen miljarden kosten, en nog meer ondernemingen gingen over de kop wegens de prijzen. Dat zag en zie je aan van-het-gas-af acties, iets wat andere EU landen niet doen, maar ondertussen hebben onze buurlanden ons gas voor een lagere prijs dan wij ervoor betalen. Dat zag en zie je aan de vele donaties naar buitenlanden ver weg, voor van alles en nog wat, met allerlei motivaties, maar niet voor alle buitenlanden die ruimschoots onder dezelfde motivaties vallen. Dat zag en zie je aan de vele miljarden die tegen open sluizen worden gegooid, met luxe schepen, vakantieparken, hotels en noem maar op, terwijl onze bejaarden (letterlijk) in de kou zitten. Dat zag en zie je aan onze jongeren die zo langzamerhand tweederangs burgers zijn, aangezien ze steeds achteraan de wachtrij worden geplaatst. Dat zie je aan de onrealistische en onhaalbare plannen omtrent food hubs, megasteden, 15 minuten gebieden, verhogen dijken, dierenleed voorkom je door dierenleed te exporteren naar landen waar ze nog minder doen voor de heilzaamheid van dieren, vluchtelingen help je door hen die duizenden kunnen betalen voor de overtocht van alles en nog wat te geven terwijl je hen die echt machteloos zijn aan hun lot over te laten in hun eigen regio, openbaar vervoer overal, van ver weg missende arbeidskrachten binnenhalen, emotionele chantage in allerlei "wakkere" vormen, verbod hier, verbod daar, dertigduizend natuurvernietigers neerplanten in EU's enkele echte natuurgebied die later niet recyclebaar chemisch afval worden. Hoe gaan ze dat realiseren? Door vaklieden 72 uur per dag te laten werken? Grondstoffen drie keer te gebruiken? De tijd stil zetten? Straten slechts 1 keer opengooien voor onhaalbare doelen, in plaats van drie, vier, vijf, keer? Stijgende inflatie, afbraak van pensioenen, hogere belastingen en heffingen, een keer is het op. En dan? Dat zag en zie je aan de zogenaamde experts die het daarmee allemaal eens zijn, maar niet bepaald onpartijdig en onafhankelijk zijn (in tegenstelling tot de echte experts die op z'n best genegeerd worden).

Waar zijn de logistieke talenten, de echte projectmanagers, die de vinger op de zere plek leggen? Waarom horen we die niet, in gelijke opstelling en behandeling, in de vele "nieuws" en "debat" programma's die dit, en andere landen, zo rijk zijn? En waarom spelen dit soort taferelen zich voornamelijk af in westerse landen? Waarom eveneens niet elders, net zo fel, net zo eenzijdig belicht? Vinden wij onszelf zo superieur dat wij de rest van de (veel grotere) wereld als dom beschouwen? Hoe kan het dat het overgrote deel van de wereld zich absoluut niets tot weinig aantrekt van wat het westen zichzelf allemaal aandoet? Hoe durven wij het overgrote deel van de wereld weg te zetten als een soort van primaten wiens denkwijze en handelen we simpelweg weg kunnen wuiven als zijnde niet ter zake doende, als onbeduidend, dat wij hun onze verlichting moeten laten zien, die simpele zielen? In plaats van dat zij ons volledig gaan wegconcurreren van de wereldmarkt, omdat wij onszelf continue in de voet schieten?

Waarom? Wie verdient hoeveel aan welke toestanden? Wie verdient een luxe stoel later ergens om daarin te faciliteren?

Iedere keer als iemand roept dat het einde nabij is als we nu niet keihard ingrijpen, vooral als die van geen kritiek daarop wil weten, constant op de emotionele onderbuik inspeelt, dan weet je dat je te maken hebt met een graaier met een "na mij de zondvloed" instelling. Zulks is het spel dat al sinds de 12de eeuw of zo wordt gespeeld, wellicht nog eerder. Sinds de jaren vijftig steeds meer en vaker. Kent u uw werkelijke geschiedenis? Of slechts de voorgespiegelde geschiedenis? Hoe geïnformeerd bent u echt? En door wie komt dat? Een ongemakkelijk waarheid mogelijk?

Weet u nog? Roken is gezond, lood in benzine is goed, benzeen zeep is goed, asbest is fantastisch, Chrome-6 is niet gevaarlijk, kwik helpt de tandheelkundigen, er is veilige preventie voor Mexicaanse griep, wij beschermen uw privacy en vrijheid van meningsuiting tot het uiterste. Allen bejubeld en bekrachtigd door de destijds, en hedendaagse, "experts". Reguliere media daar volledig in meegaand. Totaal geen sprake van een, zeg maar, bepaald patroon. Toch?

En juist vandaag, op NPO Radio 1, Schiphol gaat niet krimpen, want de US en EU zijn tegen, is onwettige procedure en zo. Natuurlijk. Duidelijk is wat werkelijk numero uno is. Handel.

De meest luidste stemmen preken onrealistisch, krijgen echter alle ruimte daarvoor. Maar wie heeft daar niet echt last van, en wie draait er daadwerkelijk voor op? Al zou de wereld branden?
15-11-2023, 09:21 door Anoniem
Door Anoniem: De meest luidste stemmen preken onrealistisch, krijgen echter alle ruimte daarvoor. Maar wie heeft daar niet echt last van, en wie draait er daadwerkelijk voor op? Al zou de wereld branden?

De wereld staat al decennia in de hens. (eigenlijk is het wereldbrandje al met de industriele revolutie ontstaan. In ieder geval de eerste vonken).
Maar de mensheid steekt al die tijd haar kop in het zand.
Zolang ze niets ziet, is er niets aan de hand. Toch?

Maar monitoring, controle en winsten maken zijn belangrijker dan de echte problemen te willen oplossen.
Alles omdat poltici hun eigen prioriteiten, stokpaardjes en een korte aandachtspanne hebben.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.