image

FTC wil gebruik van gekloonde stemmen door criminelen voorkomen

maandag 20 november 2023, 12:05 door Redactie, 5 reacties

De Amerikaanse toezichthouder FTC zoekt oplossingen die moeten voorkomen dat criminelen gebruikmaken van door AI gekloonde stemmen voor het oplichten van mensen. Volgens de FTC is de technologie voor het klonen van stemmen de afgelopen jaren een stuk geavanceerder geworden. Dat maakt het ook eenvoudiger voor oplichters om zich als familie, vrienden of bedrijfsdirectie voor te doen en zo mensen op te lichten.

Eerder dit jaar kwam de FTC al met een waarschuwing voor 'voice cloning', waarbij criminelen zich als een bekende voordoen en stellen dat het slachtoffer snel geld moet overmaken. Om te voorkomen dat dergelijke fraude gemeengoed wordt heeft de Amerikaanse toezichthouder een wedstrijd georganiseerd. Zo wordt er gezocht naar oplossingen die moeten voorkomen dat iemand zich met een gekloonde stem kan authenticeren, of dat gekloonde stemmen in real-time kunnen worden gemonitord of gedetecteerd.

Verder wordt er gezocht naar oplossingen die aan de hand van opgenomen audio kunnen vaststellen dat het om een gekloonde stem ging. De oplossingen zijn bedoeld voor bedrijven en ontwikkelaars die diensten of producten aanbieden waarmee het klonen van stemmen mogelijk is, zodat er vervolgens maatregelen kunnen worden getroffen om misbruik tegen te gaan of detecteren.

"We zullen elke tool mogelijk inzetten om te voorkomen dat het publiek wordt getroffen door het misbruik van technologie voor het klonen van stemmen", zegt Samuel Levine van de FTC. "We willen schade voorkomen voordat het algemeen beschikbaar komt, en de wet kunnen handhaven wanneer dit het geval is." Geinteresseerden kunnen in de eerste twee weken van januari hun ideeën inzenden. De winnaar ontvangt een prijs van 25.000 dollar.

De Fraudehelpdesk waarschuwde afgelopen augustus tegenover het AD dat het slechts een kwestie van tijd is voordat deze vorm van oplichting in Nederland voet aan de grond krijgt. "Zo gaat het altijd met nieuwe vormen van oplichting. Het start elders, en dan waait het langzaam maar zeker onze kant op. Dat is zorgwekkend, want zo wordt het nog moeilijker om te onderscheiden wat nu echt of nep is. We houden ons hart vast voor wat er komen gaat."

Reacties (5)
20-11-2023, 12:46 door Anoniem
Dit is een "Pandora's box" situatie.
Het is nu een kat-en-muis spel geworden.

Denk eraan, je stem is iets wat valt onder "zijn". (uit het rijtje "hebben", "weten", "zijn")
Dit kan je niet veranderen en volgt je de rest van je leven.

Hier een aantal tips:
- Bewaak je Privacy: Ze kunnen je stem niet klonen als ze geen sample hebben. Staat je stem herkenbaar op internet?
- Gebruik geen stemverificatie om mee te beginnen. Deze kan je nooit meer veranderen als het "gekraakt" is.
- Wees op je hoede: Ook al is een stem bekent, zodra het van een onverwachte bron komt, let dan op met wat hij of zij wilt.
20-11-2023, 12:54 door Anoniem
Goede AI gaat kwade AI bewaken?

De AI-proxy war is coming to a theatre near you.
20-11-2023, 14:52 door Anoniem
Door Anoniem: Goede AI gaat kwade AI bewaken?

De AI-proxy war is coming to a theatre near you.
Dat is al paar jaar gaande. A.I zit tegenwoordig ook al in de duurdere datacom hardware verwerkt endpoint protection en eventmonitoring software als optie. Het is nu pas dat de grotere menigte er echter mee te maken krijgt.
21-11-2023, 13:30 door Anoniem
Ik dacht dat Blofeld nu Schwab heette? ;)
Reageren
Ondersteunde bbcodes
Bold: [b]bold text[/b]
Italic: [i]italic text[/i]
Underline: [u]underlined text[/u]
Quote: [quote]quoted text[/quote]
URL: [url]https://www.security.nl[/url]
Config: [config]config text[/config]
Code: [code]code text[/code]

Je bent niet en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.