Моторошні “галюцинації” ШІ: пристрої Google Home бачать “привидів” в оселях та сповіщають про їхню активність

Низка користувачів на Reddit заявила, що їхні пристрої Google Home почали фіксувати та описувати присутність людей, яких ті ніколи в житті не бачили. 

В одному з повідомлень зазначається, що камера користувача нібито помітила Майкла, який виносив сміття. Однак у цьому будинку не має нікого з таким ім’ям. Коли юзер поставив помічнику Google питання стосовного цього, той відповів, що його камера розпізнає обличчя, навіть якщо імена не називались. Камера зафіксувала Майкла у період з 26 по 27 жовтня.

За словами користувача, він ніколи не вводив у систему ім’я Майкл, однак він дійсно у вказаний час виносив сміття і ймовірно був зафіксований камерою. Інший користувач розповів, що його Google Home випадково нагадав йому викинути сміття, потім заперечував це, а потім почав переконувати, що помилився. 

Інший стверджував, що його пристрій повідомив про друга Девіда, який зайшов у вітальню і пропилотяжив її. У користувача є один з таким ім’ям, але ця людина не заходила, і ніхто не пилотяжив.

Інший юзер з Reddit за кілька днів до цього опублікував пост, стверджуючи, що камера Google Nest скомпонувала головні події за день, заявивши при цьому про жінку з ім’ям Сара. ШІ зазначив, що Сара вигулювала собак та виносила сміття. Чоловік переконує, що проживає один і не має знайомої з такими ім’ям. У відповідь на це Gemini заявила, що користувач сам назвав її Сарою, а ім’я вона сама собі придумала напередодні. Система також припустила, що у вітальні були активні два собаки, хоча у користувача є лише один.

Офіційний акаунт Google вже відреагував на повідомлення користувачів і попросив надіслати відеозаписи. Один з коментаторів припустив, що така поведінка може бути пов’язана з особливостями роботи великих мовних моделей. Якщо система передбачає, що конкретне ім’я найкраще відповідає контексту опису, вона може згенерувати це ім’я, навіть якщо воно не дійсне, оскільки вона не може відрізнити точний опис від вигаданого.

Єва Ганнон, чия родина володіє рестораном, розповіла First Alert, що штучний інтелект Google постійно розповідав клієнтам про нереальні пропозиції та вигадував пункти меню. В одному з прикладів штучний інтелект Google стверджував, що Stefanina’s пропонує велику піцу за ціною маленької — мабуть, багато людей розлютилися б, якби не отримали такий подарунок.

Це далеко не перший бізнес, котрий постраждав від вигадок ШІ. У червні компанія сонячної енергетики з Міннесоти подала позов до Google через “наклеп” — огляди AI Overviews нібито розповідали клієнтам неправду про компанію, яка зашкодила її бізнесу.

Австралійський банк постраждав від ШІ в інший спосіб: заміна працівників технічної підтримки на ШІ призвела до збільшення кількості дзвінків та понаднормової роботи решти колективу. В результаті у звільнених перепросили та покликали їх назад.

Джерело: Android Authority