Google beschouwt foto's die vader naar arts stuurt ten onrechte als kindermisbruik
Een Amerikaanse man die op verzoek van een verpleger foto's van zijn zieke peuter maakte en naar een arts stuurde is door de algoritmes en een medewerker van Google ten onrechte beschuldigd van het versturen van kindermisbruikmateriaal, wat grote gevolgen voor de vader had. Zo besloot de Amerikaanse politie een onderzoek naar hem te starten en raakte hij zijn Google-account met allerlei waardevolle informatie kwijt.
De zoon van de man had begin vorig jaar een ontsteking in de liesstreek. De ouders vroegen hun zorgverlener om een spoedconsult in het weekend, waarbij de verpleger verzocht om foto's van de liesstreek op te sturen zodat de arts die al kon bekijken. Het voorval deed zich vorig jaar februari voor tijdens de coronacrisis. De vader maakte zoals gevraagd de foto's en stuurde die op.
De foto's werden echter automatisch naar de servers van Google geback-upt. Daar beoordeelde een algoritme van het techbedrijf dat het om kindermisbruikmateriaal ging. Door het algoritme aangemerkte foto's worden vervolgens door een menselijke controleur geverifieerd. De betreffende Google-medewerker stelde dat het om kindermisbruikmateriaal ging en waarschuwde het National Center for Missing and Exploited Children (NCMEC). Een organisatie die zich met de bestrijding van kindermisbruik bezighoudt.
Google besloot het Google-account van de vader wegens het overtreden van het beleid te vergrendelen en het NCMEC waarschuwde de autoriteiten. De politie startte een onderzoek naar de vader en vroegen zijn internetprovider en Google om alle data over hem, waaronder bezochte websites, locatiegeschiedenis, berichten en geüploade documenten, foto's en video's, zo meldt The New York Times.
De politie stelde uiteindelijk op basis van onderzoek dat de man onschuldig is. Desondanks heeft de vader zijn Google-account nog altijd niet terug en is daardoor meer dan tien jaar aan contacten, e-mails en foto's kwijtgeraakt. Een deel van de foto's en documenten wist hij via andere back-ups terug te krijgen. Google heeft geen verklaring gegeven voor het niet teruggeven van het account. De man blijft naar eigen zeggen de diensten van Google gebruiken, maar vertrouwt zijn data niet meer klakkeloos aan het techbedrijf toe. Daarnaast adviseert hij om het automatisch uploaden van foto's naar Google Photos uit te schakelen.
Scanplan Europese Commissie
De Europese Commissie wil chatdiensten en andere techbedrijven verplichten om alle berichten en andere content van gebruikers op kindermisbruik te scannen, waarbij ook gebruik van algoritmes moet worden gemaakt. Tal van privacyexperts hebben de afgelopen periode gewaarschuwd voor de gevolgen van een dergelijk plan, waaronder het voorval dat de Amerikaanse vader is overkomen. Daarnaast hebben de Europese privacytoezichthouders zich ook zeer kritisch uitgelaten.
Bedenk bij jezelf is alle data die je dagelijks synct naar de cloud wel zo onschuldig als jij denkt.
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?
Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?
Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.
De vader wilde voor zijn kind zorgen.
De “rechters” van Google oordeelde dat dit onder kindermisbruik valt.
Ronduit schofterig.
De vader treft geen blaam.
Oh wacht, onze regenten willen juist dat google (en anderen) dit gaan doen.
Reden te meer om niks met dergelijke bedrijven te maken te willen hebben. QED.
De tweede optie lijkt mij het beste. Ook vanwege beroepsgeheim van de arts.
Een consult met de arts zat er vanwege de Coronacrisis niet in en dus moest er van de buikstreek foto's worden opgestuurd. Hierop kon de arts een diagnose stellen.
Gelukkig ben ik niet door de Google Inquisitie veroordeeld en geblokkeerd voor het versturen van "porno"...
De tweede optie lijkt mij het beste. Ook vanwege beroepsgeheim van de arts.
Je bedoeld geen fotos meer maken op je android...
Of iOS systeem.
Bedenk bij jezelf is alle data die je dagelijks synct naar de cloud wel zo onschuldig als jij denkt.
Hoeveel mensen hebben door dat dit zo werkt?
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?
Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.
De vader wilde voor zijn kind zorgen.
De “rechters” van Google oordeelde dat dit onder kindermisbruik valt.
Ronduit schofterig.
De vader treft geen blaam.
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?
Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.
De vader wilde voor zijn kind zorgen.
De “rechters” van Google oordeelde dat dit onder kindermisbruik valt.
Ronduit schofterig.
De vader treft geen blaam.
Ik laat voordeur openstaan en ga op vakantie.
Komt terug, huis leeg.
Ronduit schofterig.
Mij treft geen blaam, dief moet uit huis blijven.
Bedenk bij jezelf is alle data die je dagelijks synct naar de cloud wel zo onschuldig als jij denkt.
Hoeveel mensen hebben door dat dit zo werkt?
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?
Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.
De vader wilde voor zijn kind zorgen.
De “rechters” van Google oordeelde dat dit onder kindermisbruik valt.
Ronduit schofterig.
De vader treft geen blaam.
Ik laat voordeur openstaan en ga op vakantie.
Komt terug, huis leeg.
Ronduit schofterig.
Mij treft geen blaam, dief moet uit huis blijven.
Scheve vergelijking.
De vader maakt een dagboek (zo kun je het zien) op aanraden van een arts.
Deze wordt gesynchroniseerd met een cloud van Google, waar volgens mij deze meneer niet helemaal van wist.
Iemand loopt toevallig voorbij (AI), en ziet dat er wat dingen zogenaamd niet in de haak zijn.
Google maakt een conclusie op een AI algoritme, die blijkbaar het e.e.a. uit zijn context trekt, en er wordt een conclusie van gemaakt die niet klopt.
Instanties melden dat dit inderdaad klopt dat Google's conclusie foutief is, maar Google probeert hun foute context te behouden...
Nee, dit is inderdaad schofterig van Google om uit zijn context gerukte inhoudt verdraait te behouden...
https://www.volkskrant.nl/nieuws-achtergrond/amerikaan-verliest-toegang-tot-google-account-na-medische-naaktfoto-van-zoontje~b14fff30/
Het politieonderzoek pleitte de vader al snel vrij, maar Google houdt voet bij stuk. Zijn Google-account is verwijderd.
Er is nergens gezegd dat het via mail ging, er staat 'sturen', het kan dus ook prima een versleutelde chat dienst zijn geweest, mijn dierenarts bijvoorbeeld vraagt wel eens om foto's via WhatApp te sturen, in theorie ook versleuteld, of in ieder geval beter dan plain mail.
Als het via een versleutelde dienst ging, had Google de plaatjes nooit kunnen verifiëren.
Het probleem is dat Google de plaatjes niet goed checkt. En in dit geval is de context van de plaatjes ook belangrijk. Het lijkt er op dat de handmatige controleurs alleen kijken of niet een of andere wolkformatie als kinderporno gezien wordt. In dit geval zal het duidelijk een foto geweest zijn van een kind, waar ook zijn geslachtsdelen op stonden. Dat is vrijwel niet te vermijden bij een foto van de lies.
Het slordige van Google is dat ze iemand direct in diskrediet brengen, zonder eerst te checken of er een legitieme reden was voor het versturen.
Maar in Nederland gebeuren vergelijkbare dingen. Als je kleine kinderen hebt die ruw spelen voordat je een bezoek brengt aan een consultatie bureau, dan kom je ook op een zwarte lijst te staan voor mogelijk kindermishandeling. Dat overkwam mijn zus die bij de huisarts te horen kreeg dat ze op een zwarte lijst stond in verband met geconstateerde blauwe plekken bij haar zoontje. Bij het 2e kind heeft ze het consultatiebureau dan ook gemeden. Kinderen spelen nu eenmaal en daarbij vallen ze ook wel eens.
In Nederland werken de meesten zorgverleners gewoon met Whatsapp, omdat dat de enige chatapp is die bijna iedereen kent en gebruikt. Snel een foto maken met je mobiel en "even naar de dokter of verpleegkundige appen" is efficiënt en veilig genoeg, waarbij "snelheid en beschikbaarheid" doorslaggevend zijn. Email is in NL meestal 2e keuze, 3e keuze schijnveilige zorgmail-achtige diensten. Wij raden altijd aan niet onnodig foto's van geslachtsdelen te maken en na beoordeling worden alle foto's gedeletet. De mobiel waarop de foto's binnen komen verlaat het pand nooit, instellingen staan op maximale privacy. Dat is de realiteit.
Zo geindoctrineert, zo omgeslagen dat jij nu (ook) (al) zo'n actie voor medische redenen labelt als een risico, want O, O, O , dalijk ziet iemand dat aan voor kp.
dinsdag 23 augustus 2022, 10:30 door Redacti
https://www.security.nl/posting/765370/EFF+slaat+alarm+over+valse+beschuldigingen+Googles+fotoscan-algoritme
De tweede optie lijkt mij het beste. Ook vanwege beroepsgeheim van de arts.
werkt niet van de AI van Google zit er al voor
Dus niet de sync aanzetten met je clouddienst en alleen wat je echt in de cloud wilt hebben.
Het bijtje op de bloem
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?
Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.
Er staat nergens dat dit via mail verstuurd is, dat is een aanname. Misschien is het wel via een beveiligde verbinding gegaan. De foto's zijn blijkbaar via een backup bij Google terechtgekomen, dat kan al gebeuren met een backup van de telefoon die gebruikt is om de foto's te maken.
Mail is een onbeveiligde manier van data transporteren, het is alsof je een briefkaart verstuurd en iedere postbode kan lezen wat er op die kaart staat. Zou die vader het zelfde gehandeld hebben als er gevraagd was om een foto van zijn zoon op een briefkaart te plakken en deze op te sturen?
Een zorgverlener moet nooit vragen om dit soort gevoelige data op deze manier te versturen, ze zouden een beveiligde portal moeten hebben die gebruikt kan worden om de data/foto's naar te uploaden.
Veel mensen zijn zich van wat u aangeeft inderdaad niet bewust. Maar al had hij versleuteld, de US overheid heeft daartoe achterdeurtjes ingebouwd. Want reken er maar op dat dit scannen ook in versleutelde berichten snuffelt. Anders zou men niks gaan vinden omdat echte misbruikers dan prima weten wat ermee te doen.
Deze posting is gelocked. Reageren is niet meer mogelijk.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
