Ряд пользователей на Reddit заявили, что их устройства Google Home начали фиксировать и описывать присутствие людей, которых те никогда в жизни не видели.
В одном из сообщений отмечается, что камера пользователя якобы заметила Майкла, который выносил мусор. Однако в этом доме нет никого с таким именем. Когда пользователь задал помощнику Google вопрос касательного этого, тот ответил, что его камера распознает лица, даже если имена не назывались. Камера зафиксировала Майкла в период с 26 по 27 октября.
По словам пользователя, он никогда не вводил в систему имя Майкл, однако он действительно в указанное время выносил мусор и вероятно был зафиксирован камерой. Другой пользователь рассказал, что его Google Home случайно напомнил ему выбросить мусор, затем отрицал это, а потом начал убеждать, что ошибся.
Еще один утверждал, что его устройство сообщило о друге Дэвиде, который зашел в гостиную и пропылесосил ее. У пользователя есть друг с таким именем, но этот человек не заходил, и никто не пылесосил.
Еще один пользователь Reddit за несколько дней до этого опубликовал пост, утверждая, что камера Google Nest скомпоновала главные события за день, заявив при этом о женщине с именем Сара. ИИ отметил, что Сара выгуливала собак и выносила мусор. Мужчина утверждает, что проживает один и не имеет знакомой с таким именем. В ответ на это Gemini заявила, что пользователь сам назвал ее Сарой, а имя она сама себе придумала накануне. Система также предположила, что в гостиной были активны две собаки, хотя у пользователя есть только одна.
Официальный аккаунт Google уже отреагировал на сообщения пользователей и попросил прислать видеозаписи. Один из комментаторов предположил, что такое поведение может быть связано с особенностями работы больших языковых моделей. Если система предполагает, что конкретное имя лучше всего соответствует контексту описания, она может сгенерировать это имя, даже если оно не действительное, поскольку она не может отличить точное описание от вымышленного.
Ева Ганнон, чья семья владеет рестораном, рассказала First Alert, что искусственный интеллект Google постоянно рассказывал клиентам о нереальных предложениях и придумывал пункты меню. В одном из примеров искусственный интеллект Google утверждал, что Stefanina’s предлагает большую пиццу по цене маленькой — видимо, многие люди разозлились бы, если бы не получили такой подарок.
Это далеко не первый бизнес, который пострадал от выдумок ИИ. В июне компания солнечной энергетики из Миннесоты подала иск к Google из-за «клеветы» — обзоры AI Overviews якобы рассказывали клиентам неправду о компании, которая навредила ее бизнесу.
Австралийский банк пострадал от ИИ другим способом: замена работников технической поддержки на ИИ привела к увеличению количества звонков и сверхурочной работы остального коллектива. В результате перед уволенными извинились и позвали их обратно.
Источник: Android Authority
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: