Alexa encourage une fille à mettre ses doigts dans la prise, Amazon répond

Les appareils Echos d'Amazon sont les plus vendus de leur catégorie. Ces enceintes intelligentes permettent d'accéder facilement à la musique, de contrôler les appareils de domotique et, accessoirement, de répondre rapidement à des questions. Mais ces appareils sont loin d'être parfaits, comme l'illustre l'histoire d'Alexa encourageant un enfant de dix ans à participer au défi du "penny", qui consiste à utiliser une pièce de monnaie pour toucher les broches d'une fiche connectée à une prise murale.

Amazon Alexa peut vous faire faire des choses dangereuses

L'appareil Alexa a tiré les informations relatives à ce défi (qui est évidemment dangereux et ne devrait pas être tenté) du web, comme il le fait souvent lorsqu'on lui pose des questions.

Le parent de l'enfant s'est expliqué sur Twitter :

Nous faisions quelques défis physiques, comme s'allonger et se retourner en tenant une chaussure sur le pied, d'un professeur d'éducation physique sur YouTube plus tôt. Il fait mauvais temps dehors. Elle en voulait juste un autre.

Voici ce que l'appareil Alexa a dit en réponse à la demande de l'enfant "dis-moi un défi à relever" :

Voici quelque chose que j'ai trouvé sur le web. Selon le site ourcommunitynow.com, le défi est simple : branchez un chargeur de téléphone à peu près à moitié dans une prise murale, puis touchez les broches exposées avec une pièce.

La citation n'est pas tirée d'un site Web encourageant le défi, mais de cette page, intitulée "Watch Out, Parents-the Viral 'Outlet Challenge' Has Kids Doing the Unthinkable!" (Attention, parents - le "défi des prises" viral fait faire l'impensable aux enfants).

La page met ensuite en garde contre le défi et fait suivre la citation lue par l'appareil Alexa de la phrase suivante : "les étincelles qui en résultent sont censées être suffisamment cool pour vous faire gagner une célébrité instantanée sur Internet".

S'il est compréhensible qu'un système informatique formé à la reconnaissance de mots-clés puisse commettre une telle erreur, cela peut être évidemment dangereux et souligne l'importance de la surveillance humaine - surtout lorsqu'ils sont destinés aux enfants.

Dans une déclaration à la BBC, Amazon a confirmé avoir effectué un changement pour empêcher Alexa de recommander ces activités et a déclaré :

La confiance des clients est au centre de tout ce que nous faisons et Alexa est conçu pour fournir des informations précises, pertinentes et utiles aux clients.

Désormais, si vous testez ce genre de question à Alexa, vous aurez diverses réponses allant de la recommandation de la compétence "Fortnite Challenge Roulette" à la fourniture de la définition du mot "défi", mais plus rien de dangereux. Par ailleurs, tous les produits Echo sont en promotion actuellement.