image

Privacyexpert: kleine stap om chatcontrole voor andere content te gebruiken

maandag 10 juni 2024, 12:12 door Redactie, 15 reacties

Het is een kleine stap om chatcontrole ook voor andere content te gebruiken, zo stelt privacyexpert Sofie Royer, die als voorbeeld het gebruik van ANPR-camera’s noemt. Die waren in eerste instantie bedoeld om terroristen en zware criminelen op te sporen, maar worden nu ook gebruikt om mensen van de weg te halen die hun belasting niet hebben betaald.

Begin 2022 kwam de Europese Commissie met een voorstel om alle chatberichten en ander verkeer van burgers te inspecteren. In het geval van end-to-end versleutelde chatdiensten zou dit via client-side scanning moeten plaatsvinden, waarbij alle berichten van alle burgers worden gecontroleerd, ongeacht of die ergens van worden verdacht. Daarbij zou bekend en onbekend misbruikmateriaal moeten worden gedetecteerd, alsmede grooming.

"Er circuleren heel wat open brieven van wetenschappers die waarschuwen voor de risico’s", zegt Royer tegenover de Belgische Radio 1. Ze is is postdoctoraal onderzoeker aan het Centrum voor IT- & IP-recht van de KU Leuven. "Ook uit de hoek van de privacyvoorvechters is veel kritiek gekomen. Een overheid die zo verregaand controleert op wat we allemaal versturen, hoort niet thuis in een rechtstaat."

De privacyexpert vreest een hellend vlak, dat als chatcontrole er straks is, het ook voor andere doeleinden wordt ingezet. "Technologieën zoals camera’s worden ingevoerd voor redenen waar een groot draagvlak voor bestaat, maar het risico bestaat dat diezelfde technologie nadien wordt ingezet voor andere, misschien minder ernstige misdrijven."

Royer noemt als voorbeeld de inzet van ANPR (Automatic Number Plate Recognition)-camera's, die kentekennummers kunnen herkennen. Oorspronkelijk was het doel om die tegen terroristen en zware criminelen in te zetten. Tegenwoordig worden ze ook voor andere doelen ingezet, bijvoorbeeld om mensen die nog een openstaande belastingschuld hebben van de weg te halen.

"Nu wordt er technologie voorgesteld specifiek in de strijd tegen kindermisbruik. Maar eens die technologie op onze smartphones en communicatieapps geïnstalleerd is, is het maar een kleine stap om ook op andere illegale inhoud te controleren", waarschuwt Royer. "De vraag is of surveillancetechnologieën in het algemeen onze samenleving effectief veiliger maken. We moeten er toch altijd bij vertellen dat er ook risico's aan verbonden zijn."

Reacties (15)
10-06-2024, 12:21 door Anoniem
Uiteindelijk wordt alles ingezet om de oppositie buiten te sluiten met Rusland Iran en NKorea als akelig voorbeeld.
Wij moeten dit niet accepteren en blijven hameren op openheid en transparantie ook op hardware en software gebied.
10-06-2024, 12:26 door Anoniem
Mag ik ook ANPr camera’s inzetten om die restaurantgast te vinden die wegrende zonder af te rekenen?
Nee, dan is het huidige systeem een oneerlijke monopolie.
10-06-2024, 12:28 door Anoniem
Het begint bij de muziek en film industrie.
Stichting Brein wilt chatcontrole.
10-06-2024, 12:48 door Anoniem
10-06-2024, 12:49 door Anoniem
Een kleine stap van machteloosheid naar machtsmisbruik.
De techniek biedt steeds meer opties voor zowel overheden als criminelen.
De kat wordt agressiever en de muis wordt slimmer.
10-06-2024, 13:18 door Anoniem
De voorgestelde algoritmes zijn te misbruiken voor gezichtsherkenning, waardoor een geheime surveillance mogelijk is.

https://www.security.nl/posting/802150/Wetenschappers+waarschuwen+in+brief+voor+gevaar+van+client-side+scanning

In plaats van een foto van bekend misbruikmateriaal kan een kwaadaardige statelijke actor ook de hashes nemen van, bijvoorbeeld, de overbekende bidprentjes van de paus of de dalai lama, om daarmee onwelgevallige katholieken of aanhangers van het Tibetaanse boeddhisme te vervolgen. Men kan in feite iedere willekeurige en veel gedeelde foto hashen, zoals het portret van een kritische journalist of de iconische foto van een vooraanstaande studentenleider, om zo te zien welke individuen of groeperingen die foto's veelvuldig met elkaar delen. De risico op machtsmisbruik is enorm.

https://www.security.nl/posting/841766#posting841889
10-06-2024, 13:19 door Anoniem
Eh... Hellend vlak? Het is het DOEL van het hele gedram. MEELEZEN. Bij iedereen. Het sausje 'illegaal' is alleen maar bedoeld om het door te drammen.
10-06-2024, 13:42 door Anoniem
EC: "En waar kan het dan voor worden misbruikt? Just asking for a friend ;-)"

Vanaf het begin al een slecht idee.
10-06-2024, 14:38 door Anoniem
Het zegt heel wat over degene die het in willen voeren.
10-06-2024, 14:42 door Anoniem
Door Anoniem: Mag ik ook ANPr camera’s inzetten om die restaurantgast te vinden die wegrende zonder af te rekenen?
Nee, dan is het huidige systeem een oneerlijke monopolie.
Dat schijnt nooit voor te komen als men lekker heeft gegeten. Dus ...
10-06-2024, 15:00 door Anoniem
Door Anoniem: Mag ik ook ANPr camera’s inzetten om die restaurantgast te vinden die wegrende zonder af te rekenen?
Dat valt onder civiel recht.
11-06-2024, 09:23 door Anoniem
Ving laatst op dat het mechaniek om chat controle te doen al is ingebouwd in apps zoals Whatsapp. Dan zullen de OS makers er ook op voorbereid zijn.
Weet iemand daar meer over ?
11-06-2024, 16:21 door Anoniem
Door Anoniem: Ving laatst op dat het mechaniek om chat controle te doen al is ingebouwd in apps zoals Whatsapp. Dan zullen de OS makers er ook op voorbereid zijn.
Weet iemand daar meer over ?
Dat lijkt me eerlijk gezegd een broodje aap; veel chatapps hebben een open broncode, men wil berichten onderscheppen via een achterdeurtje bij het bedrijf tussenin (via servers en dergelijke) zo hebben chat app gebruikers zelf geen toegang tot de hardware of kunnen deze achterdeurtjes manipuleren/blokkeren.
Er is geen API voor, in ieder geval niet in Android AOSP, GSF weet ik niet zeker, Apple IOS weet ook ik niet, dat is gesloten bron, maar gezien het feit dat zij er uberhaubt mee op de proppen kwamen zou me het niks verbazen.
Desktop; Windows weet ik niet, zelfde verhaal als IOS; gesloten bron.
GNU+Linux in de meeste of zelfs alle gevallen niet.
Uw beste optie zijn GNU+Linux, AOSP en offline apps.
Voor chats gebruik FLOSS apps die gebruik maken van een mesh-netwerk of gedecentraliseerde servers.
11-06-2024, 21:27 door Anoniem
Clients-side scanning zal leiding tot doden in landen met foute regimes.
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.