image

Instagram controleert privéberichten gebruikers op naaktafbeeldingen

donderdag 17 oktober 2024, 13:59 door Redactie, 27 reacties

Instagram gaat een feature, waardoor privéberichten van gebruikers door middel van client-side scanning op naaktafbeeldingen worden gecontroleerd, wereldwijd uitrollen. De feature werd eerder dit jaar al aangekondigd, maar nu vindt de wereldwijde uitrol plaats. Standaard zal 'nudity protection' bij minderjarigen worden ingeschakeld. Volwassen gebruikers worden aangemoedigd de feature zelf in te schakelen.

Daarnaast staat Instagram niet meer toe dat gebruikers screenshots maken van 'verdwijnende' foto's of video's die in privéberichten worden verstuurd. Volgens Meta moet dit gebruikers tegen sextortion beschermen. Tevens is Meta een campagne gestart waarbij het samenwerkt met Thorn, een organisatie die AI-tools ontwikkelt voor het scannen van afbeeldingen en zich inzet voor het invoeren van chatcontrole in de Europese Unie.

De 'nudity protection feature' zorgt ervoor dat naaktafbeeldingen in privéberichten automatisch worden geblurd. Tevens krijgen gebruikers dan een waarschuwing over de risico's van het versturen van gevoelige afbeeldingen. Volgens Meta maakt de feature gebruik van 'on-device machine learning' om te bepalen of een verstuurde foto een naaktafbeelding is. "Omdat afbeeldingen op het apparaat zelf worden gecontroleerd, werkt nudity protection in end-to-end versleutelde chats, waar Meta geen toegang tot de afbeeldingen heeft, tenzij iemand ze aan ons rapporteert", aldus het bedrijf.

Een andere maatregel is het tegengaan van de mogelijkheid om screenshots en opnames te maken. Op dit kunnen gebruikers screenshots maken van 'verdwijnende' foto's of video's die ze hebben ontvangen. "Je kunt verdwijnende foto's of video's niet bekijken nadat je deze hebt verstuurd in een chat, maar je kunt wel zien of ze zijn bekeken en of we hebben gedetecteerd dat iemand er een screenshot van heeft gemaakt", zo staat in een uitleg over de feature.

Vandaag meldt Meta dat dit straks niet meer kan. "Binnenkort zullen we het niet meer toestaan dat mensen hun toestel gebruiken om screenshots te maken van verdwijnende berichten of video's of die op te nemen." Volgens het techbedrijf hoeven gebruikers zich geen zorgen te maken dat iemand binnen de Instagram-app hun foto's of video's opneemt. Daarnaast zal het straks ook niet meer mogelijk zijn om ‘view once’ of ‘allow replay’ foto's of video's op Instagram Web te openen, om zo te voorkomen dat mensen de screenshotbeperking omzeilen.

Reacties (27)
17-10-2024, 14:02 door Anoniem
En jij maar denken dat die telefoon van jou is...
17-10-2024, 14:10 door Anoniem
Toch wel grappig dat meta beweert dat chats e2e beveiligd zijn terwijl als ze ‘gerapporteerd’ worden WEL meegekeken kan worden. Technisch lijkt het me tegenstrijdig e2e lijkt me 2 entiteiten niet een man-sometimes-in-the-middle.
17-10-2024, 14:18 door Anoniem
Er zijn nog genoeg slimmeriken die foto's maken van het beeldscherm met een ander toestel.

Maar dat terzijde, ik heb Meta-producten al heel lang geleden afgezworen.
17-10-2024, 14:31 door Anoniem
Als dit in WA terecht komt is het egt wel exit WA, jammer voor vrienden en familie.
17-10-2024, 14:47 door Anoniem
Je vraagt je toch af waar de training data vandaan komt, helemaal als deze AI ook geschikt is om foto's van minderjarigen te classificeren.
17-10-2024, 15:23 door Anoniem
Door Anoniem: Toch wel grappig dat meta beweert dat chats e2e beveiligd zijn terwijl als ze ‘gerapporteerd’ worden WEL meegekeken kan worden. Technisch lijkt het me tegenstrijdig e2e lijkt me 2 entiteiten niet een man-sometimes-in-the-middle.

Het een sluit t ander natuurlijk niet uit. Als je dat zijdelings doet dan maakt het geen fluit uit hoe veilig de verbinding is.
Dat maakt het wel wat misleidend allemaal. Eigenlijk is er een nieuwe term voor nodig.
17-10-2024, 15:24 door Anoniem
Insta heeft bedacht dat naaktbeelden niet gewenst zijn. Dus gaan ze naaktbeelden blurren. Maar, Insta voegt ook meteen allerlei extra functionaliteiten toe die juist het delen van naaktbeelden laagdrempeliger maakt.

Want, zo begrijp ik van Insta: verzenden is goed, bekijken is fout. En delen, daar doen ze niets tegen.

Ze hadden ook in elke ontvangen afbeelding een watermerk van de ontvanger kunnen toevoegen, zodat vervolging eenvoudiger wordt. Om maar iets te noemen.
17-10-2024, 15:31 door Anoniem
Door Anoniem: En jij maar denken dat die telefoon van jou is...
Je hoeft die app niet te gebruiken. Dus ja, dat is je eigen keuze. En het is client-side, ingebakken in die specifieke app die jij kiest om te gebruiken.. Prima functie om te voorkomen dat mensen (lees: voornamelijk vrouwen) afbeeldingen toegestuurd krijgen & openen die ze niet willen ontvangen.
17-10-2024, 15:39 door _R0N_
Door Anoniem: En jij maar denken dat die telefoon van jou is...

Als je een telefoon neemt wel, de meeste mensen hebben tegenwoordig een zakcomputer waar een bel app op staat, dat is geen telefoon.
17-10-2024, 15:49 door Anoniem
Door Anoniem: Als dit in WA terecht komt is het egt wel exit WA, jammer voor vrienden en familie.

Het is tijd voor een fork.
17-10-2024, 15:57 door cyberpunk
Door Anoniem:
Door Anoniem: Als dit in WA terecht komt is het egt wel exit WA, jammer voor vrienden en familie.

Het is tijd voor een fork.

Gewoon. Signal gebruiken.
17-10-2024, 16:00 door Anoniem
Door Anoniem: Toch wel grappig dat meta beweert dat chats e2e beveiligd zijn terwijl als ze ‘gerapporteerd’ worden WEL meegekeken kan worden. Technisch lijkt het me tegenstrijdig e2e lijkt me 2 entiteiten niet een man-sometimes-in-the-middle.

Als je een chat rapporteert worden de laatste x berichten apart doorgestuurd als deel van dat report. Ze zijn dus geen mitm, je kiest er zelf voor om het door te sturen.
17-10-2024, 16:03 door majortom - Bijgewerkt: 17-10-2024, 16:04
Volgens het techbedrijf hoeven gebruikers zich geen zorgen te maken dat iemand binnen de Instagram-app hun foto's of video's opneemt.
Nee binnen de app niet daarbuiten wel. Dit gaat ervoor zorgen dat niets vermoedende mensen denken dat eea geregeld is en dat beelden niet op straat komen te liggen. In feite wordt hiermee de security ondergraven en wordt het daardoor alleen maar slechter.

Standaard zal 'nudity protection' bij minderjarigen worden ingeschakeld.
Hoe weet Meta of iemand minder- of meerderjarig is?

Tevens is Meta een campagne gestart waarbij het samenwerkt met Thorn, een organisatie die AI-tools ontwikkelt voor het scannen van afbeeldingen en zich inzet voor het invoeren van chatcontrole in de Europese Unie.
Dus alle client side afgevangen afbeeldingen worden de AI ingeslingerd om die te trainen? En Meta gaat er dus vanuit dat de EU de burgers onder massasurveillamnce gaat zetten en neemt daar alvast een voorschot op? Ik hoop dat gebruikers zich massaal van dit platform gaan afkeren en een dikke vinger naar Meta opsteken, al vermoed ik dat de gemiddelde gebruiker dit gewoon laat gebeuren, want "ze kunnen niet zonder". Ben ik blij dat ik nooit aan dit soort platforms ben begonnen (onder het motto "wat moet je er in vredesnaam mee").
17-10-2024, 16:05 door Anoniem
Eerst mensen afhankelijk maken van zooi en dan later gaan verbieden.
Lekker dubbel daar allemaal, maar daar staat men in de V.S. om bekend.

Vreselijk geweld en de grootste leugens kunnen er mee door
en een enkele blote t*p*l en het land en META staan meteen op z'n kop.

Gevaarlijk voor een normaal functionerend libido,
maar daar wordt niet voor gewaarschuwd.

Victoriaans beleid dus om geheel andere redenen dan aangegeven.

#laufer
17-10-2024, 16:24 door Anoniem
Gelukkig ben ik nog in de jaren 70 opgegroeid. Toen blootje nog gewoon blootje was. En dat je tenminste nog in je eigen badkamerspiegel mocht kijken. In alle vrijheid.

Daarna moest je daar eerst 18 voor zijn.

Het is wat het is. Jammer maar helaas.
17-10-2024, 17:16 door Anoniem
Geen excuus voor. Meta weet heel goed dat insta's eindgebruikers doorgaans niet technisch onderlegd zijn. Hun e2ee-claims zijn technisch gezien vals. Puur (kinder)misbruik.Domme godwins helpen daar niks aan. Ze vallen in dezelfde categorie als infostealers en malwareverspreiders: Gewoon viespeuken, voyeurs, etc. Meta wacht gunstiger wetgeving af om deze data alsnog te kunnen verhandelen. En dat gaat per eenheid meer opleveren dan 'reguliere' data. Die wachten het rustig af de komende 10, 20 jaar...
De enige waarheid in hun claims is dat data bij Meta versleuteld is opgeslagen op hun servers.

Reden genoeg voor een wereldwijde blacklist/red flag voor Meta.
17-10-2024, 17:32 door Anoniem
Door Anoniem:
Door Anoniem: Als dit in WA terecht komt is het egt wel exit WA, jammer voor vrienden en familie.

Het is tijd voor een fork.

Insta en WhatsApp zijn closed source en eigendom van Meta / Facebook, dus een fork afsplitsen kun je wel vergeten.
17-10-2024, 17:44 door Anoniem
Door Anoniem: Gelukkig ben ik nog in de jaren 70 opgegroeid. Toen blootje nog gewoon blootje was.

De softporno uit de jaren 70 valt in het niet met de ziekelijke, gewelddadige hard core die tegenwoordig met een muisklik te verkrijgen is. Daar wil een verstandige ouder met een greintje goed fatsoen zijn of haar kind niet aan laten blootstellen.
17-10-2024, 20:43 door Anoniem
Je hoeft die app niet te gebruiken.
Inderdaad. En dus ook vooral maar niet doen. Mocht je ooit zo stom zijn geweest om er wel aan te beginnen. Maar ja... schaapjes he... dus het zal wel bij wat geblaat blijven.
17-10-2024, 22:33 door Anoniem
Het geeft men een vals gevoel van bescherming aangezien men gewoon een foto van het scherm kan maken met een externe camera waarmee mensen seksueel kunnen worden afgeperst.
Het gaat niet om de kwaliteit maar het gaat om het angsteffect en het feit dat kenissen van het slachtoffer het slachtoffer zouden kunnen herkennen op de naaktfoto.
18-10-2024, 10:34 door Anoniem
Dit is wat Facebook en consorten gewoon zijn, willen en doen, en ze proberen er nu een wettelijk gegrond er één tweetje van te maken, omdat die achterlijke EU politiek met chat controle aan de gang is, met dat zij van de Metapocalypse dit grootschalig doorvoeren hebben ze weer argumenten dit er door te trappen.

Dan krijg je weer de argumenten: 'Ja, maar ik heb niets te verbergen...' of 'Ja, maar IEDEREEN gebruikt het (of welke dienst dan ook die ik, samen met een bewuste minderheid, niet zal gebruiken van die tumoristische kutbedrijven), dus wat is je bezwaar?

Nou, mijn bezwaar is dat ik blijkbaar door een overgroot deel argeloze mensen zoals JIJ opgezadeld word met allerlei de facto bemoeizuchtige troep en regelgevingen.


Over time, using open source will make you an enemy of the state...
18-10-2024, 10:37 door Anoniem
Door Anoniem:
Door Anoniem: Als dit in WA terecht komt is het egt wel exit WA, jammer voor vrienden en familie.

Het is tijd voor een fork.
Volgens mij draait WhatsCrapp gewoon op het decennia-oude XMPP-protocol, waarvoor er talloze clients en servers beschikbaar zijn. Matrix is echter een modernere optie.
19-10-2024, 22:35 door johanw
Door Anoniem:
Door Anoniem: Gelukkig ben ik nog in de jaren 70 opgegroeid. Toen blootje nog gewoon blootje was.

De softporno uit de jaren 70 valt in het niet met de ziekelijke, gewelddadige hard core die tegenwoordig met een muisklik te verkrijgen is. Daar wil een verstandige ouder met een greintje goed fatsoen zijn of haar kind niet aan laten blootstellen.

Veel van de softporno uit die tijd is tegenwoordig streng verboden omdat de minimumleeftijd om daarin mee te doen destijds 16 was, en veel "vieze blaadjes" daar best nog een paar jaar onder gingen zitten.
21-10-2024, 08:55 door Anoniem
Door Anoniem: Als dit in WA terecht komt is het egt wel exit WA, jammer voor vrienden en familie.

Jij stuurt naaktfoto's naar familie en vrienden?
21-10-2024, 13:52 door Anoniem
Door Anoniem: En jij maar denken dat die telefoon van jou is...

De telefoon is ook van jou. De diensten van derden die jij wil afnemen blijven eigendom van die derde partijen.
21-10-2024, 17:52 door Anoniem
Stallman legt het goed uit:
https://youtu.be/Ag1AKIl_2GM
10-11-2024, 11:21 door Anoniem
In de voor zover bekend op dat moment grootste sextortionzaak van Nederland werden talloze meiden gedwongen tot het fotograferen en filmen van zichzelf. Zo groot was het onderzoek, dat parket Zeeland – West-Brabant zich concentreerde op de minderjarige slachtoffers. En een mediastrategie inzette. “We vreesden voor een situatie zoals die van Amanda Todd.”

Gianni de W. werd op 11 oktober 2022 aangehouden. Op zijn vaak gebruikte modus operandi krijgen OM en politie steeds meer zicht. Eerst legt hij onder een schuilnaam online contact met meisjes: leuk, vriendelijk en onschuldig. Daarna vraagt hij de meiden beelden van zichzelf te sturen, alleen voor hem, waarbij hij hen een beloning in het vooruitzicht stelt.

https://magazines.openbaarministerie.nl/opportuun/2024/05/sextortion
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.