image

Minister: client-side scanning bij nieuw materiaal niet betrouwbaar

woensdag 11 oktober 2023, 11:59 door Redactie, 17 reacties

De technologie om via client-side scanning nieuw misbruikmateriaal en grooming op de telefoons van burgers te detecteren is niet betrouwbaar genoeg en moet daarom niet worden ingezet zoals de Europese Commissie wil, zo stelt demissionair minister Yesilgöz van Justitie en Veiligheid. Brussel wil client-side scanning inzetten om alle chatberichten die burgers in de EU versturen te controleren op zowel bekend als onbekend misbruikmateriaal, alsmede grooming.

"Voor detectie van bekend materiaal worden zogenoemde hashes met een hashdatabase gematcht. Bestaand materiaal betreft bekend materiaal dat reeds als strafbaar materiaal is geclassificeerd en als zodanig in een database is opgenomen. Van dit materiaal wordt een zogenaamde ‘hash’ gemaakt, een identificatie op basis van een pixel. Deze hash wordt vervolgens opgenomen in een hashdatabase", laat Yesilgöz op vragen van het CDA weten.

Volgens de minister is deze manier van detectie betrouwbaar en heeft een laag aantal vals-positieven. Experts die vandaag de Tweede Kamer over client-side scanning gaan informeren waarschuwen dat een vals-positief vergaande gevolgen kan hebben voor de burgers die het betreft. In het geval van detectie van nieuw materiaal en grooming wordt gebruik gemaakt van 'AI-classifiers'. Het gebruik van AI-classifiers om op telefoons naar content te scannen levert een relatief hoog aantal vals-positieven op, laat Yesilgöz weten.

"Op deze manier worden mensen ten onrechte in verband gebracht met de verspreiding van dit materiaal en dat acht het kabinet zeer onwenselijk. Nederland vindt hierom het huidige voorstel op deze onderdelen disproportioneel in het licht van de grondrechten die hier in het geding zijn en acht daarom de hieruit voortvloeiende inbreuk op die grondrechten niet gerechtvaardigd", aldus de minister, die dit als reden noemt waarom Nederland de detectie van nieuw materiaal en grooming buiten de Europese Verordening wil houden.

Reacties (17)
11-10-2023, 12:18 door Anoniem
Het moet uberhaubt niet worden ingezet, het afluisteren van persoonlijke berichtjes van miljoenen onschuldige mensen is te idioot voor woorden.
Op deze manier gaat de overheid de burger zien als potentiele crimineel, en wordt een controlestaat de norm.
Het enige dat een overheid hoeft te doen is alles in goede banen leiden, ze hoeft niet te controleren.
De politie doet op dit moment al geweldig werk wanneer het aankomt op het oppakken van criminelen, ook via chats, slachtoffers kunnen naar de politie waarna de sleutels van de chat kunnen worden gebruikt tegen de desbetreffende persoon.
We willen geen dystopie zoals die in Half-Life 2, met overal controles, dat noemt men dus een controlestaat.
En het tast de grondrechten van de burger aan.
Het zal er hoe dan ook komen, deze minister heeft altijd wel een excuus achter de hand, ze beseft heus wel dat het hier niet alleen gaat om het scannen zelf, maar ook om de rechten van de burgers, ze blijft er maar slinks omheen praten met als excuus "think of the children"
https://en.m.wikipedia.org/wiki/Think_of_the_children
Mensen die kinderen willen lastigvallen doen dat toch wel, het is aan de ouders om ze verantwoordelijk te laten omgaan met zowel de echte als digitale wereld, en als men de digitale wereld niet begrijpt kunnen ze dat het beste achterwege laten voor hun kind totdat ze wat ouder zijn. (Gewoon een apparaat offline gebruiken)
Aan de ministers; "UW VOLK WIL DEZE CONTROLESTAAT NIET"
Wij zijn diegenen die belasting voor uw salaris betalen, wij zijn uw opdrachtgever, u doet uw werk voor ons, het volk, en wij willen dit overduidelijk niet.
Als u dit toch doet, doet u uw werk duidelijk niet goed.
Uw plan doet niemand goed, de kinderen niet en ook de rest van het land.

Daarnaast zijn de motieven al niet zuiver;

https://www.security.nl/posting/811655/%27Commerci%C3%ABle+belangen+bij+Brussels+plan+voor+client-side+scanning%27

https://www.security.nl/posting/812441/%27Europol+zocht+onbeperkte+toegang+tot+data+verzameld+via+client-side+scanning%27
11-10-2023, 12:27 door Anoniem
Bekend materiaal kan ook makkelijk verjongd worden door tinten grijs iets aan te passen, kortom
Als de minister ook alle slachtoffers van false positives en misslagen van toezichthouders en overheid en NGO's volledig en zonder discussie en levenslang ruimhartig schadeloos stelt kunnen we er best over praten.
11-10-2023, 12:34 door Anoniem
He he , eindelijk besef hoe stompzinnig en gevaarlijk en de DEMOCRATIE ONDERMIJNEND het CSS voorstel is.
11-10-2023, 12:34 door Anoniem
Als je grooming definieert als seksueel getinte berichten tussen een volwassene en een minderjarige, dan moet de AI van iedereen in Europa dus weten wat de leeftijd is (op het moment van de conversatie). Dat lijkt mij nogal disproportioneel. Of is dit juist de bedoeling van dit voorstel van de Europese Commissie? In aanloop van een internetrijbewijs met je leeftijd erop wat nodig is om je op het internet te mogen begeven?
11-10-2023, 12:38 door Anoniem
Ik stel een betere digitale voorlichting voor ouders en kinderen en een campagne voor.
client-side scanning mag geen eerste optie zijn, het mag helemaal geen optie zijn.
We worden al genoeg afgekeken via de sleepwet en adverteerders, genoeg is genoeg.
Ministers willen de ene mens beschermen door de andere mens kwaad te doen, in beide gevallen gaat het hier om onschuldige mensen.
Al vermoed ik dat de motieven inderdaad niet naar kinderen uitgaan aangezien daar al prima oplossingen voor zijn.
Het gaat om geld, de verkoop van metadata.
Metadata is het nieuwe zwarte goud.
Vroeger werd hevig om olie gevochten, nu is het de informatie van mensen dat goud geld opleverd, niet alleen voor bedrijven maar ook overheden of enkele individuen daarin.
Waar het altijd weer op neerkomt is dat persoonlijke informatie in hamden van derden terechtkomt alvorens te worden verkocht.
11-10-2023, 12:39 door Anoniem
Door Anoniem:
Mensen die kinderen willen lastigvallen doen dat toch wel, het is aan de ouders om ze verantwoordelijk te laten omgaan met zowel de echte als digitale wereld, en als men de digitale wereld niet begrijpt kunnen ze dat het beste achterwege laten voor hun kind totdat ze wat ouder zijn. (Gewoon een apparaat offline gebruiken)
Aan de ministers; "UW VOLK WIL DEZE CONTROLESTAAT NIET"

Maak jezelf geen illusies, de EU gaat dit gewoon doorvoeren ook al zou iedereen in NL tegen zijn.


"Voor detectie van bekend materiaal worden zogenoemde hashes met een hashdatabase gematcht. Bestaand materiaal betreft bekend materiaal dat reeds als strafbaar materiaal is geclassificeerd en als zodanig in een database is opgenomen. Van dit materiaal wordt een zogenaamde ‘hash’ gemaakt, een identificatie op basis van een pixel. Deze hash wordt vervolgens opgenomen in een hashdatabase"

Dit gaat niet werken, bij de kleinste verandering aan de afbeelding is de hash zinloos geworden.
Ik weet niet wie haar informeert maar dit lijkt nergens op.
11-10-2023, 12:41 door Anoniem
Door Anoniem: Bekend materiaal kan ook makkelijk verjongd worden door tinten grijs iets aan te passen, kortom
Als de minister ook alle slachtoffers van false positives en misslagen van toezichthouders en overheid en NGO's volledig en zonder discussie en levenslang ruimhartig schadeloos stelt kunnen we er best over praten.
U heeft gelijk, het gaat ze ongetwijfelt om geld want de huidige regels maken geen steek, niemand wordt er mee geholpen en doet niemand goed, daarnaast heeft het gewoon geen nut, er zijn veel betere oplossingen mogelijk en het is nu al mogelijk om per zaak te controleren.
En dit artikel wijst daar inderdaad op;
https://www.security.nl/posting/811655/%27Commerci%C3%ABle+belangen+bij+Brussels+plan+voor+client-side+scanning%27
11-10-2023, 12:55 door Anoniem
Is dit dan al niet genoeg reden om het te kunnen 'afschieten', dit onzalige idee.

Iedereen die dit nog in goeden gemoede voorstellen wil, een half uur "in de hoek laten staan".

Ga liever cybercriminelen opsporen en zo straffen, dat hen de zin tot cybercrime echt vergaat.

Schoon de infrastructuur op van deze ellende.

#tor-browser-launcher
11-10-2023, 13:13 door Anoniem
Zo werkt het nu eenmaal in de politiek. Niet zeggen dat je zelf een stom idee hebt, maar iemand of iets anders de schuld geven, in dit geval de techniek. Alsof je het wel zou willen wanneer de techniek het aan zou kunnen.
Het is nu wachten wanneer de VDD zelf een splinterpartij wordt.
11-10-2023, 15:06 door Anoniem
Wil je kinderen als minister echt beschermen, dan moet je ze allemaal uit huis halen en opsluiten in een kazerne, gevangenis, of kamp. Dan kunnen de KP-criminelen er niet meer (makkelijk) bij.
Oh, en natuurlijk 24/7 monitoring met camera's. Om onderlingen misstanden, of door hun bewakers of indringers, te voorkomen.

Vwb het KP-materiaal dat al rondzwerft. Alle gebouwen in Nederland/Europa adhoc onaagekondigd laten doorzoeken.
Zo nodig met razzia's om de verdachte/ongewenste personen af te voeren.

/s


Want dat is waar we langzaam aan naar op aan het schuiven zijn.

De voorgestelde CSS maatregel zal niet gaan werken.
En als ze het echt om de kinderen gedaan is, dan zijn vervolg maatregelen onvermijdelijk.
Maatregelen zoals hierboven beschreven.

Maar het is een maatschappij (waarin kinderen blijkaar massaal geslachtofferd en misbruikt worden) zie deze politici zelf gecreeerd hebben de afgelopen 30-40 jaar.
Iets van boter op het hoofd.
11-10-2023, 17:31 door Anoniem
Allereerst: laat me voorop stellen dat ik kindermisbruik op wat voor manier dan ook vreselijk vind. En ja, ik reken pedofilie daar ook onder. Dat gezegd hebbende, de hele discussie is irrelevante tijdverspilling. Zelfs als de minister met een toverstaf kan zwaaien en ze per direct alle digitale kinderpornostromen kan stopzetten, bereikt ze niets.

Als je denkt dat de misbruikte kinderen beter af zijn na deze overheidsactie doe je een onbewezen aanname. Je neemt dan immers aan dat pedofielen kinderen misbruiken omdat ze de beelden nou zo graag delen. Dat ze vanzelf wel zouden stoppen als delen fysiek onmogelijk zou worden gemaakt.

Mij lijkt het dat, als er een effect zou zijn op de hoeveelheid kindermishandeling, het juist een verergerend effect zou veroorzaken. Een pedofiel die voorheen voldoende in zijn 'behoefte' kon 'voorzien' door andermans kinderporno te consumeren, kan dat juist niet meer als je delen 100% uit kan bannen. De viezeriken gaan dan juist vaker kinderen misbruiken omdat er geen 'virtuele' kinderen meer zijn waar zij 'het wel mee kunnen doen' en veroorzaken uiteindelijk meer leed.

Nee, ik zeg niet dat we dan maar moeten dogen/toestaan/accepteren dat men kinderporno ronddeelt (ik voel me zelfs walgelijk als ik de 'behoeften' hierboven beschrijf). Wat ik wil zeggen is dat je nauwelijks (of misschien zelfs 0) leed voorkomt met zo'n maatregel.

Het gevaar zit 'm immers in het mishandelen van kinderen. Deels in het maken van beelden. Dat is allemaal al illegaal. Delen van beelden is nu ook al illegaal. Eventuele chantage van de pedofiel naar het kind is uiterst lastig, omdat de pedofiel ontmaskerd en opgepakt zal worden op het moment dat hij het beeldmateriaal ook maar naar één niet-pedofiel stuurt. Daarnaast is er ook geen plausible deniability voor ontvangers zoals bij bijvoorbeeld volwassen wraakporno, omdat kinderporno in geen enkel geval mogelijk legaal kan zijn.

De wet en de samenleving zijn al zo ingericht dat kinderporno zich enkel in zeer gesloten kringen kan verspreiden. Mij lijkt het nu beter om te zorgen dat onze kinderen weerbaarder worden tegen misbruik en dat we ons focussen op het reduceren van mogelijkheden die pedofielen kunnen benutten. Als we het ze onmogelijk maken om kinderen te mishandelen, wordt het ook onmogelijk om kinderporno rond te sturen.
11-10-2023, 18:52 door Anoniem
Zijn er ooit kerken, zangkoren of sportverenigingen waar misbruik heeft plaatsgevonden gesloten of op bevel van de rechter ontbonden? Zijn er buitenlandse zakenmensen die bevriend waren met Epstein de toegang tot ons land ontzegd?
11-10-2023, 19:33 door Anoniem
KP is het verkooppraatje, niet het doel, want KP voorkom je er niet mee, hooguit pak je er een paar dommeriken mee.

Het liefst willen ze de deur helemaal openzetten en dat ze overal kunnen rondneuzen waar ze maar willen, en als ze dat niet lukt dan zetten ze hun voet tussen de deur, om die deur later steeds verder open te duwen. CSS en al die andere wilde plannen kun je niet "maar een beetje" binnen hebben. De enkele manier is de deur stevig dicht te houden.

Al die datahonger, het willen centraliseren en controleren daarvan, controle op informatiestromen, machtsuitbreiding, het wijst niet de goede kant op. Controlfreaks worden alleen maar erger, want ze wantrouwen steeds meer en maken van een mug een olifant, terwijl ze zelf de dolle stier in de porseleinwinkel zijn.
11-10-2023, 19:46 door Anoniem
Door Anoniem: Allereerst: laat me voorop stellen dat ik kindermisbruik op wat voor manier dan ook vreselijk vind. En ja, ik reken pedofilie daar ook onder. Dat gezegd hebbende, de hele discussie is irrelevante tijdverspilling. Zelfs als de minister met een toverstaf kan zwaaien en ze per direct alle digitale kinderpornostromen kan stopzetten, bereikt ze niets.

Als je denkt dat de misbruikte kinderen beter af zijn na deze overheidsactie doe je een onbewezen aanname. Je neemt dan immers aan dat pedofielen kinderen misbruiken omdat ze de beelden nou zo graag delen. Dat ze vanzelf wel zouden stoppen als delen fysiek onmogelijk zou worden gemaakt.

Mij lijkt het dat, als er een effect zou zijn op de hoeveelheid kindermishandeling, het juist een verergerend effect zou veroorzaken. Een pedofiel die voorheen voldoende in zijn 'behoefte' kon 'voorzien' door andermans kinderporno te consumeren, kan dat juist niet meer als je delen 100% uit kan bannen. De viezeriken gaan dan juist vaker kinderen misbruiken omdat er geen 'virtuele' kinderen meer zijn waar zij 'het wel mee kunnen doen' en veroorzaken uiteindelijk meer leed.

Nee, ik zeg niet dat we dan maar moeten dogen/toestaan/accepteren dat men kinderporno ronddeelt (ik voel me zelfs walgelijk als ik de 'behoeften' hierboven beschrijf). Wat ik wil zeggen is dat je nauwelijks (of misschien zelfs 0) leed voorkomt met zo'n maatregel.

Het gevaar zit 'm immers in het mishandelen van kinderen. Deels in het maken van beelden. Dat is allemaal al illegaal. Delen van beelden is nu ook al illegaal. Eventuele chantage van de pedofiel naar het kind is uiterst lastig, omdat de pedofiel ontmaskerd en opgepakt zal worden op het moment dat hij het beeldmateriaal ook maar naar één niet-pedofiel stuurt. Daarnaast is er ook geen plausible deniability voor ontvangers zoals bij bijvoorbeeld volwassen wraakporno, omdat kinderporno in geen enkel geval mogelijk legaal kan zijn.

De wet en de samenleving zijn al zo ingericht dat kinderporno zich enkel in zeer gesloten kringen kan verspreiden. Mij lijkt het nu beter om te zorgen dat onze kinderen weerbaarder worden tegen misbruik en dat we ons focussen op het reduceren van mogelijkheden die pedofielen kunnen benutten. Als we het ze onmogelijk maken om kinderen te mishandelen, wordt het ook onmogelijk om kinderporno rond te sturen.

Deze wet is niet bedoeld is tegen kindermisbruik, het "kindermisbruik" is een excuus waarmee men emoties aanspreekt in de hoop dat mensen deze verregaande wet zouden goedkeuren, zo laten mensen de logica vergaan ten behoeve van gevoelens.
Daarna heeft de overheid de macht om in ieders berichtjes te kijken en deze macht te kunnen misbruiken voor malafide doeleinden, daarnaast zal de metadata van gebruikers hoogstwaarschijnlijk worden verkocht, er was al een nieuwsartikel op security.nl die over iets soortgelijks sprak.
Mensen hebben liever hun privacy, kinderen worden er niet mee geholpen, integendeel, ook zij raken hun privacy kwijt.
11-10-2023, 19:50 door Anoniem
Hèhè, ze wordt wakker hoor. Na eerder dit te hebben gehad: https://www.security.nl/posting/811844/
Kan dat dan nu alsnog aub?

Bovendien was het allang bekend dat scanplan van de Europese Commissie erg onbetrouwbaar is: https://tweakers.net/nieuws/198788/

Ik vrees alleen dat dit weer een gevalletje gaat zijn van too little too late. Want onze minister lijkt nu een ander (beter) standpunt aan te houden, maar als de EU Nederland forceert (net zoals bv. bij het associatieverdrag met Oekraïne), dan hebben we nog steeds niets in te brengen, al helpt het wel dat Dhr. Mark Rutte het niet meer weg kan lachen.
12-10-2023, 09:00 door Anoniem
Nèhhh, na de rondetafel gesprek te hebben gezien, de 'vragen', die er werden gesteld en de opmerkingen die politici daar weer op maakte, geeft mij aan dat ze d'r werkelijk (nog) geen snars van snappen en zeker niet als er een voorstander (van de gesubsidieerde tu-delft) zand in de ogen strooit door aan te geven "dat er eigenlijk niets veranderd en dat we het in feite eigenlijk al doen, we breiden het alleen maaar uit".
Ook gaf Bert al aan dat je als 'onderhandelingspositie' aangeeft dat je bij 1 van de 3 onderdelen (alleen bekende kp opsporen) wel 'voor' bent, geef je al aan dat je 'voor' bent, dus komt het er ook (da's democratie op EU niv0000000), dus:

{Everly Brothers - bye-bye love]
% bye-bye Whatsapp %
% bye-bye messenger %
% hello telegram %
% i think it's time to cha-ange %

% the state wants to read along %
% with the messages I'd send %
% they want to spy on us %
% with everything they can %
% but i won't be fooled around %
% they should be a-ssssha-amed %
% so its time to leave again %
% to start somewhere else%

% bye-bye insta %
% bye-bye facetime %
% hello signal %
% i think it's time to cha-ange %
12-10-2023, 09:54 door Anoniem
Zo worden dus alle privéberichtjes van burgers op een overheidserver opgeslagen alvorens de metadata daarvan word verkocht.
De twee mensen die ze er mee oppakken zullen als voorbeeld worden gebruikt "hoe goed het werkt".
Intussen worden de belangenverstrengelingen en uitbreidingen van deze wet in de toekomst genegeerd.
Criminelen passen even hun fotootjes aan, de rest van de burgers blijven met deze wet zitten.
De ministers hebben hun zinnetje, en geld.
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.