Apple heeft chatprogramma Messages van een optie voorzien die berichten gericht aan kinderen op naaktfoto's scant. De "Check for Sensitive Photos" feature staat standaard uitgeschakeld en is alleen in te schakelen voor kinderaccounts. Volgens Apple maakt Messages gebruik van "on-device machine learning" om te bepalen of een bericht een naaktfoto bevat. Wanneer dit het geval is zal Messages het bericht blurren en een waarschuwing aan de gebruiker tonen.
Vervolgens kunnen gebruikers ervoor kiezen te foto te bekijken, iemand anders een bericht te sturen, het contact dat de foto verstuurde te blokkeren en hulp te zien. Is het kind onder de 13 jaar, dan zal Messages een prompt tonen om een gesprek met ouders of voogd te starten. Kiest een kind er toch voor om de afbeelding te bekijken of een naaktfoto te versturen, dan toont Apple opnieuw een waarschuwing. Pas als die waarschuwing wordt bevestigd zal Messages de foto tonen.
In eerste instantie was Apple van plan om de ouders te waarschuwen wanneer de minderjarige gebruiker de afbeelding accepteerde of verstuurde, maar besloot daar na kritiek van af te zien. De scanoptie werkt op iOS 15.2 en iPadOS 15.2 of nieuwere versies en macOS Monterey 12.1 en nieuwer. Daarnaast moet het kinderaccount met zijn Apple ID zijn ingelogd en onderdeel van een Family Sharing group zijn.
Apple liet eerder ook weten dat het een tweede scansysteem wil uitrollen dat foto's die gebruikers naar iCloud uploaden op hun toestel controleert. Het plan zorgde voor een golf van kritiek, waarop het techbedrijf besloot om met de implementatie te wachten.
Deze posting is gelocked. Reageren is niet meer mogelijk.