Alexa , de digitale stemassistent van Amazon , maakte een nogal merkwaardige (en alarmerende) fout met een jong kind, aan wie ze suggesties voor porno-inhoud voorstelde toen het kind om haar favoriete liedjes vroeg . En dit is slechts één voorbeeld van wat er kan gebeuren als een stemassistent de woorden die je net hebt gezegd niet goed herkent ...
Porno in plaats van kinderliedjes voor een kind
Het lijkt erop dat we heel voorzichtig moeten zijn als we de kleinste van het huis een stemassistent laten gebruiken, vooral als deze geen enkele vorm van controle of inhoudfilter heeft, of enige bescherming voor minderjarigen. Dit heeft dit gezin aangetoond met een video op YouTube waarin het kind lijkt te worstelen om zichzelf verstaanbaar te maken met Alexa , de assistent van Amazon , op een Amazon Echo- apparaat .
Het kind vraagt de assistent herhaaldelijk om een van zijn favoriete liedjes te spelen, en in eerste instantie antwoordt Alexa dat ze zijn verzoek niet herkent. Maar na een tijdje komt de laatste verrassing, en dat is dat Amazons stem detecteert dat het kind heeft gevraagd om naar een pornokanaal te luisteren en het begint af te spelen , terwijl de ouders schreeuwen en Alexa vragen om te stoppen. Natuurlijk: tussen hun alarmkreten door kunnen ze niet anders dan hardop lachen, zonder te geloven wat er gebeurt.
Amazon Echo, stemassistenten en ouderlijk toezicht
Hoewel de meeste apparaten en applicaties systemen voor ouderlijk toezicht hebben om te voorkomen dat kinderen toegang krijgen tot pornografische inhoud of om andere redenen ongeschikt zijn voor hen (bijvoorbeeld series of films waarin extreem geweld wordt vertoond). Maar in het geval van de Amazon Echo-speaker , die veel ouders gebruiken om het thuis met jonge kinderen makkelijk te organiseren, lijkt het erop dat assistent Alexa ver over de verwachte grenzen is gegaan.
Van het Amazon- bedrijf heeft een woordvoerder bevestigd dat ze al bezig zijn met het ontwikkelen van veel strengere ouderlijke en inhoudelijke controles om te voorkomen dat dit soort situaties zich in de toekomst opnieuw voordoen.
Als curiositeit is het vermeldenswaard dat er al ouders zijn geweest die in het verleden klachten en zorgen over Alexa hebben geuit . Velen zijn met name van mening dat de stemassistent een oneindige tolerantie heeft voor beledigingen of "slechte manieren" van gebruikers , wat de ontwikkeling van grof en grof gedrag bij kinderen zou kunnen aanmoedigen. De minderjarigen merken dat ze met de Amazon- assistent kunnen praten zoals ze willen en toch krijgen wat ze willen (de lichten thuis gaan uit of er wordt een liedje gespeeld dat ze willen horen).
In ieder geval kunnen al die details worden opgelost met verbeteringen in de stemassistent, en Amazon zal waarschijnlijk de Alexa- parameters constant blijven updaten zodat de gebruikerservaring blijft verbeteren en zodat er geen onaangename verrassingen zijn wanneer kinderen de apparaten van het bedrijf.