HRW: foto's van kinderen zonder toestemming gebruikt voor AI-training
Foto's van Australische kinderen worden zonder toestemming van hen of hun ouders gebruikt voor het trainen van AI-modellen, zo stelt Human Rights Watch (HRW). De foto's zijn gescrapet van internet en onderdeel van LAION-5B, een dataset gebruikt voor het trainen van populaire AI-tools, aldus HRW. Volgens de organisatie staan de namen van sommige kinderen vermeld in het bijbehorende onderschrift of de URL van waar de afbeelding is opgeslagen.
"In veel gevallen zijn hun identiteiten eenvoudig te vinden, waaronder informatie over wanneer en waar het kind was op het moment dat de foto werd gemaakt", stelt Human Rights Watch. In de LAION-5B-dataset werden honderdnegentig foto's van Australische kinderen aangetroffen, maar dat is volgens de organisatie waarschijnlijk een zeer lage ondergrens. De dataset bevat 5,85 miljard afbeeldingen en onderschriften.
HRW stelt verder dat een aantal van de gevonden foto's waren gemaakt door mensen die maatregelen hadden genomen om de privacy van de kinderen te beschermen. Sommige van de gescrapete afbeeldingen waren gemaakt aan de hand van YouTube-video's, maar die waren door de makers op 'unlisted' gezet en zijn zo niet te vinden in de zoekresultaten van YouTube.
LAION is een Duitse non-profitorganisatie die voor de LAION-5B-dataset verantwoordelijk is. De organisatie heeft volgens HRW bevestigd dat de dataset de persoonlijke foto's van kinderen bevat en aangegeven die te zullen verwijderen. Verder zou LAION hebben laten weten dat kinderen en hun voogden verantwoordelijk zijn voor het verwijderen van persoonlijke kinderfoto's van internet, en dat dit de beste bescherming tegen misbruik biedt. Human Rights Watch wil dat Australische beleidsmakers met wetgeving komen die het scrapen van persoonlijke data van kinderen voor het gebruik in AI-systemen verbieden.
Ofwel:
"Als je niet wil dat ik tegen je fiets urineer moet je 'm niet in het fietsenrek zetten."
Beetje hetzelfde als een inbreker zou zeggen: "Je kan beter de achterdeur op slot doen, zo voorkom je bestolen te worden".
Omdat het kan betekend niet dat je het moet doen.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Information Security Officer
Grijp deze unieke kans voor carrière-ontwikkeling in informatiebeveiliging! Bij Esri bouw je vertrouwensrelaties op en help je zowel ons als onze klanten veiligere technologie te gebruiken. Ben jij de ervaren Security Officer die energie krijgt van werken in 'twee werelden'? Solliciteer dan nu!
Security Specialist Malware
NCSC
Zit cybersecurity diep in je DNA? Heb jij het in je om op het moment dat het er echt toe doet samen met je collega’s tot de juiste (technische) oplossing te komen? Als security specialist malware bij het Nationaal Cyber Security Centrum (NCSC) doe jij er alles aan om de impact van digitale dreigingen te verminderen en incidenten tegen te gaan.
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
No more ransomware!
De nieuwe Ransomware Awareness Experience training biedt een realistische maar vooral leuke introductie in de wereld van ransomware. De deelnemers ervaren hoe eenvoudig een organisatie het slachtoffer kan worden van ransomware en leren meteen hoe een besmetting kan worden voorkomen!