Apple zal binnenkort onder Amerikaanse gebruikers twee scansystemen uitrollen, naar eigen zeggen om afbeeldingen op apparaten op kindermisbruik te controleren. Dit zou kinderen volgens het techbedrijf moeten beschermen, maar volgens de Amerikaanse burgerrechtenbeweging EFF zorgt Apples werkwijze juist voor het tegenovergestelde.

Eén van de scansystemen zal foto's controleren die gebruikers onder de dertien jaar via iMessage ontvangen en versturen. Ouders moeten de optie wel zelf inschakelen en de controle vindt alleen plaats bij iMessage-gebruikers die als kind zijn aangemerkt. Een algoritme zal de foto's van deze gebruikers controleren. Wanneer het algoritme bepaalt dat het om "seksueel expliciet" materiaal gaat krijgt de gebruiker een keuze om de foto niet te versturen of te ontvangen. Dan zal er niets gebeuren.

Wordt er wel gekozen om de foto te ontvangen of versturen, dan ontvangen de ouders een melding. Het systeem scant ook de foto's van gebruikers tussen de dertien en zeventien jaar, maar waarschuwt dan alleen de gebruiker als die een expliciete foto ontvangt of verstuurt. De ouders ontvangen dan geen melding.

Volgens de EFF introduceert Apples werkwijze allerlei risico's voor kinderen en doet het weinig om het echte probleem tegen te gaan. Statistisch gezien vindt het meeste misbruik binnen gezinnen plaats en zijn ouders vaker de producenten van kindermisbruikmateriaal dan vreemden, merkt de burgerrechtenbeweging op. Daarnaast kan in gezinnen met huiselijk geweld ook een volwassene worden gedwongen om een kind-account te gebruiken, waardoor controle kan plaatsvinden.

"Het plan van Apple is onderdeel van een groeiende, zorgwekkende trend. Techbedrijven plaatsen zich meer en meer in gebieden van ons leven waar surveillance het meest wordt geaccepteerd en waar machtsverschillen de norm zijn: in onze werkomgeving, onze scholen en in onze woningen. Het is mogelijk dat deze technologieën deze machtsverschillen kunnen oplossen, maar in plaats daarvan bieden ze vaak spionage-, monitoring- en stalkingmogelijkheden aan hen die de macht hebben", aldus de EFF.

De burgerrechtenbeweging waarschuwt dat dit grote gevolgen voor de toekomst van privacy zal hebben. "Hoe meer jongeren door technologie worden gesurveilleerd, hoe lastiger het wordt om ergens anders voor privacy te pleiten. En als we jongeren laten zien dat privacy iets is dat ze niet verdienen, wordt het heel eenvoudig voor ze om surveillance als de norm te accepteren", zegt Jason Kelley van de EFF. Afsluitend stelt de burgerrechtenbeweging dat Apple met scanplan niet alleen het eigen privacy-imago in gevaar brengt, maar ook de veiligheid van jonge gebruikers.