Foto's van Australische kinderen worden zonder toestemming van hen of hun ouders gebruikt voor het trainen van AI-modellen, zo stelt Human Rights Watch (HRW). De foto's zijn gescrapet van internet en onderdeel van LAION-5B, een dataset gebruikt voor het trainen van populaire AI-tools, aldus HRW. Volgens de organisatie staan de namen van sommige kinderen vermeld in het bijbehorende onderschrift of de URL van waar de afbeelding is opgeslagen.

"In veel gevallen zijn hun identiteiten eenvoudig te vinden, waaronder informatie over wanneer en waar het kind was op het moment dat de foto werd gemaakt", stelt Human Rights Watch. In de LAION-5B-dataset werden honderdnegentig foto's van Australische kinderen aangetroffen, maar dat is volgens de organisatie waarschijnlijk een zeer lage ondergrens. De dataset bevat 5,85 miljard afbeeldingen en onderschriften.

HRW stelt verder dat een aantal van de gevonden foto's waren gemaakt door mensen die maatregelen hadden genomen om de privacy van de kinderen te beschermen. Sommige van de gescrapete afbeeldingen waren gemaakt aan de hand van YouTube-video's, maar die waren door de makers op 'unlisted' gezet en zijn zo niet te vinden in de zoekresultaten van YouTube.

LAION is een Duitse non-profitorganisatie die voor de LAION-5B-dataset verantwoordelijk is. De organisatie heeft volgens HRW bevestigd dat de dataset de persoonlijke foto's van kinderen bevat en aangegeven die te zullen verwijderen. Verder zou LAION hebben laten weten dat kinderen en hun voogden verantwoordelijk zijn voor het verwijderen van persoonlijke kinderfoto's van internet, en dat dit de beste bescherming tegen misbruik biedt. Human Rights Watch wil dat Australische beleidsmakers met wetgeving komen die het scrapen van persoonlijke data van kinderen voor het gebruik in AI-systemen verbieden.