image

Messages voorzien van optie die berichten kinderen op naaktfoto's scant

donderdag 28 juli 2022, 14:06 door Redactie, 8 reacties

Apple heeft chatprogramma Messages van een optie voorzien die berichten gericht aan kinderen op naaktfoto's scant. De "Check for Sensitive Photos" feature staat standaard uitgeschakeld en is alleen in te schakelen voor kinderaccounts. Volgens Apple maakt Messages gebruik van "on-device machine learning" om te bepalen of een bericht een naaktfoto bevat. Wanneer dit het geval is zal Messages het bericht blurren en een waarschuwing aan de gebruiker tonen.

Vervolgens kunnen gebruikers ervoor kiezen te foto te bekijken, iemand anders een bericht te sturen, het contact dat de foto verstuurde te blokkeren en hulp te zien. Is het kind onder de 13 jaar, dan zal Messages een prompt tonen om een gesprek met ouders of voogd te starten. Kiest een kind er toch voor om de afbeelding te bekijken of een naaktfoto te versturen, dan toont Apple opnieuw een waarschuwing. Pas als die waarschuwing wordt bevestigd zal Messages de foto tonen.

In eerste instantie was Apple van plan om de ouders te waarschuwen wanneer de minderjarige gebruiker de afbeelding accepteerde of verstuurde, maar besloot daar na kritiek van af te zien. De scanoptie werkt op iOS 15.2 en iPadOS 15.2 of nieuwere versies en macOS Monterey 12.1 en nieuwer. Daarnaast moet het kinderaccount met zijn Apple ID zijn ingelogd en onderdeel van een Family Sharing group zijn.

Apple liet eerder ook weten dat het een tweede scansysteem wil uitrollen dat foto's die gebruikers naar iCloud uploaden op hun toestel controleert. Het plan zorgde voor een golf van kritiek, waarop het techbedrijf besloot om met de implementatie te wachten.

Reacties (8)
28-07-2022, 14:33 door Anoniem
Nog effies en ze durven pas met 18 jaar onder de douche. Want daar hangt een spiegel!
28-07-2022, 16:18 door Anoniem
Apple heeft dus een techniek ontwikkelt waarbij jouw eigen computer zelf een foto analyseert... Hij kan de context zien (naakt kind op de foto, kind kijkt niet blij, 2 volwassenen in dezelfde foto, 1 zwart ± 30 jaar, 1 blank ± 60 jaar, foto is buiten genomen etc.).
Doodeng.. want gezien de kracht van bijvoorbeeld smartphones kunnen ze dit waarschijnlijk ook realtime gaan doen: dus wanneer je film't 'bekijkt' je smartphone de omgeving door z'n camera en meldt het aan Apple wanneer iets niet in de haak is volgens HUN richtlijnen....

En bedenk ook: Apple weet ten alle tijden waar een device van hun is. Mensen denken dat ze deze 'Find My Phone' optie zelf aan of uit kunnen zetten zodat Apple ze niet trackt. Maar Apple trackt standaard al hun devices aan de hand van het serienummer. 'Find my phone' aanzetten betekent enkel dat JIJ de locatie nu ook kan zien...
28-07-2022, 16:32 door Anoniem
Met een kopietje naar de centrale database zeker?
28-07-2022, 18:22 door Anoniem
Door Anoniem: Apple heeft dus een techniek ontwikkelt waarbij jouw eigen computer zelf een foto analyseert... Hij kan de context zien (naakt kind op de foto, kind kijkt niet blij, 2 volwassenen in dezelfde foto, 1 zwart ± 30 jaar, 1 blank ± 60 jaar, foto is buiten genomen etc.).
Doodeng.. want gezien de kracht van bijvoorbeeld smartphones kunnen ze dit waarschijnlijk ook realtime gaan doen: dus wanneer je film't 'bekijkt' je smartphone de omgeving door z'n camera en meldt het aan Apple wanneer iets niet in de haak is volgens HUN richtlijnen....

En bedenk ook: Apple weet ten alle tijden waar een device van hun is. Mensen denken dat ze deze 'Find My Phone' optie zelf aan of uit kunnen zetten zodat Apple ze niet trackt. Maar Apple trackt standaard al hun devices aan de hand van het serienummer. 'Find my phone' aanzetten betekent enkel dat JIJ de locatie nu ook kan zien...

Niet hun richtlijnen, maar die van de politie(k).
28-07-2022, 20:15 door Anoniem
De instelling is in te zien via de Systeemvoorkeuren.
Ik wist overigens niet dat deze functie al in MacOS Monterey was opgenomen.

Bij het bekijken van de instelling bleek dat de functie inderdaad standaard was uitgeschakeld.
29-07-2022, 09:36 door majortom
Vervolgens kunnen gebruikers ervoor kiezen te foto te bekijken, iemand anders een bericht te sturen, het contact dat de foto verstuurde te blokkeren en hulp te zien. Is het kind onder de 13 jaar, dan zal Messages een prompt tonen om een gesprek met ouders of voogd te starten.
Hoe weet Apple dat het een kind betreft? En hoe weten ze de leeftijd? Hoe weten ze wie de ouders zijn? Het immer privacy bewuste Apple profileert de gebruikers toch niet zodanig dat ze deze relaties kunnen leggen? Of toch wel?
29-07-2022, 10:42 door Anoniem
Moet je voor Machine Learning geen dataset hebben?
02-08-2022, 20:25 door Anoniem
Op naar de Chinese maatschappij!
Reageren

Deze posting is gelocked. Reageren is niet meer mogelijk.