Amazon Echo kan meeluisteren zonder juiste activatiewoord
De Amazon Echo kan meeluisteren zonder dat gebruikers het juiste activatiewoord hebben gegeven, zo blijkt uit onderzoek van Northeastern University in Boston dat in overleg met de Amerikaanse consumentenvereniging Consumer Reports wordt uitgevoerd.
Hoewel het onderzoek nog niet is afgerond hebben de onderzoekers al een aantal interessante resultaten geboekt. Voor het onderzoek werden vier identieke Amazon Echo-speakers gebruikt, die elk met een ander activatiewoord werden geprogrammeerd. De spraakassistent mocht alleen beginnen met luisteren bij de woorden Alexa, Amazon, Computer of Echo.
Vervolgens werden de apparaten aan gesprekken in drie audioboeken en negen episodes van de Gilmore Girls blootgesteld. Tijdens de Gilmore Girls-marathon begonnen de speakers tien keer met het opnemen van audio in de omgeving, zonder dat het activatiewoord was gegeven. De audioboektest leverde 63 false positives in 21 uur tijd op. Wanneer de speaker via een verkeerd woord werd geactiveerd stopte die wel binnen een aantal seconden met opnemen.
De speakers reageerden onder andere op "I need medical assistance", "It’s actually", "This is on", "Last night", "Confident" en "Marco". Amazon verklaart dat Echo-apparaten kunnen reageren op woorden die op het activatiewoord lijken. Het bedrijf zou bezig zijn om de prestaties van de smart speaker te verbeteren. Eerder dit jaar werd bekend dat Amazon-personeel naar Alexa-opnames luistert.
En als ze dat niet meer mogen, kunnen ze de prestaties ook niet meer verbeteren.
Bij alle systemen die van test naar productie gaan is altijd weer gebleken dat je niet alles kunt testen. En al helemaal niet menselijk gedrag. :(
Peter
En als ze dat niet meer mogen, kunnen ze de prestaties ook niet meer verbeteren.
Bij alle systemen die van test naar productie gaan is altijd weer gebleken dat je niet alles kunt testen. En al helemaal niet menselijk gedrag. :(
Peter
De heel zuiver gestelde constatering dat je consumenten zover hebt bepraat dat zij een apparaat in huis halen dat hen feitelijk 24/7 kan afluisteren is griezelig.
In mei 2018 stond in The Washington Post al een artikel m.b.t. deze onbetrouwbare activatiemethode.
https://www.washingtonpost.com/news/the-switch/wp/2018/05/24/an-amazon-echo-recorded-a-familys-conversation-then-sent-it-to-a-random-person-in-their-contacts-report-says/?noredirect=on
De Amazon gehersenspoelde consument zal het worst zijn. Hij/zij weet dit niet of wil dit niet horen, of negeert na lezen deze berichten want het ding blijft een enorm succes. Tussen 2018 en 2019 laat de verkoop van Smart speakers een groei zien van 84 %
https://voicebot.ai/amazon-echo-alexa-stats/
Als je input van echte users "in het wild" wilt hebben om dingen te verbeteren dan kan je dat ook anders doen. Je kan bijvoorbeeld gebruikers in staat stellen om zelf aan te geven dat wat ze zeggen niet goed geïnterpreteerd wordt, en die kunnen dan uitgenodigd worden om zelf bij een opname in te typen wat de tekst is die ze uitspraken. Daarbij geef je mensen zelf de gelegenheid om te kiezen of ervan af te zien het fragment en de correctie in te sturen en dus te bepalen of het fragment verwerkt kan worden om het systeem bij te laten leren.
Wat ook problematisch is met spraakherkenning is dat alles opgevangen kan worden, inclusief dingen die onder het strengere regime van bijzondere persoonsgegevens vallen. Zeker als de kans bestaat dat mensen gaan meeluisteren is moeilijk vol te houden dat de verwerking neutraal is in dat opzicht.
Deze posting is gelocked. Reageren is niet meer mogelijk.
Specialiseer je in Forensisch ICT
Online informatieavond 19 november
Wil jij je specialiseren in digitaal forensisch onderzoek? Je kennis verbreden en tech-nische vaardigheden ontwikkelen? Ontdek de cursus- en opleidingsmogelijkheden van Hogeschool Leiden:
- Bachelor Informatica Forensisch ICT (deeltijd)
- Master Digital Forensics (vol- en deeltijd)
- Module Mobile Forensics
- Module Data Analytics
Interesse? Meld je aan!
Information Security Officer (2fte)
Een uitdagende rol waarbij jij, op basis van security, de vertaalslag maakt tussen business en IT en direct bijdraagt aan de veiligheid van informatie binnen de gemeente Almere. Dat is in een notendop waar jij als Information Security Officer mee bezig bent. Interesse gewekt? Door groei van de organisatie zijn we op zoek naar twee nieuwe collega’s.
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
