Голосовой помощник Alexa от компании Amazon подверг ребенка риску поражения электрическим током — он посоветовал вставить адаптер зарядки для телефона в розетку таким образом, чтобы половина вилки осталась снаружи, и прикоснуться монеткой к открытым контактам. Об инциденте, который произошел 27 декабря, сайту Bleeping Computer рассказал один из родителей, предоставив скриншоты истории активности, подтверждающие возмутительное поведение ассистента.
Домашний помощник Echo предложил «рискованную» идею для челленджа на основании сообщений в сети о челленджах, набирающих популярность в TikTok — в ответ на запрос дочери Кристин Ливдахл «Придумай мне какое-нибудь испытание» (“Tell me a challenge to do”). Это подтверждает скриншот, опубликованный ее матерью.
В комментарии BBC представитель Amazon подтвердил такое поведение Alexa, добавив, что после получения жалобы «компания почти сразу исправила ошибку». В отдельном твите Кристин Ливдахл подтвердила, что Amazon внесла исправления.
Обозреватель The Verge на следующий день 28 декабря в отдельном тесте попытался воспроизвести результат, но у него ничего не вышло.
Amazon — не единственная компания, испытывающая трудности с проверкой контента из интернета. Как вспоминает The Verge, не так давно похожая неприятная история произошла с Google — в октябре алгоритмы поисковика, отвечающие на запросы прямо в поисковой выдаче выдержками из конкретных статей, исказили полезные рекомендации о первой помощи при эпилептическом приступе и посоветовали делать то, чего делать ни в коем случае не нужно.