Bard — нова ШІ-технологія Google — надала помилкову відповідь у демонстрації, чим спричинила масштабне падіння акцій Alphabet.
У понеділок Google анонсувала свій ШІ-чатбот Bard — конкурента ChatGPT від OpenAI — який стане доступним протягом найближчих тижнів. Однак у рекламному відео технологія припустилася помилки, надавши неправдиву інформацію як результат запиту.
Google опублікувала GIF, на якому чатбот відповідає на запитання: “Про які нові відкриття космічного телескопа Джеймса Вебба я можу розповісти своїй 9-річній дитині?”. Bard запропонував три варіанти, серед яких твердження про те, що телескоп “зробив перші фотографії планети за межами Сонячної системи”.
На презентацію одразу зреагували астрономи, які написали у соцмережах, що насправді перший знімок екзопланети був зроблений ще у 2004 році. Це підтверджує й стаття, опублікована на сайті NASA.
“Впевнений, що Bard нас ще вразить, але для протоколу: JWST не зробив “найперше зображення планети за межами нашої Сонячної системи”, — написав у Twitter астрофізик Грант Трембле.
Брюс Макінтош, директор обсерваторії Каліфорнійського університету, також вказав на цю помилку:
“Кажу, як людина, яка фотографувала екзопланету за 14 років до запуску JWST. Вам не здається, що можна знайти кращий приклад?”
Як правильно підмітив Трембле у наступних твітах, основною проблемою чатботів зі штучним інтелектом, таких як ChatGPT і Bard, є їхня схильність впевнено надавати невірну інформацію як факт. Чатботи часто “галюцинують” — тобто вигадують дані — оскільки вони, по суті, є системами автозаповнення.
Звичайно, в інтернеті вже є масиви неправдивої інформації, але проблема ускладнюється бажанням Microsoft і Google використовувати ці інструменти як пошукові системи — де відповіді чатботів набувають авторитету “машини, що все знає”.
Microsoft, яка днями продемонструвала свою нову пошукову систему Bing на основі ШІ, намагалася усунути ці проблеми, поклавши відповідальність на користувача.
“Bing працює на основі штучного інтелекту, тому можливі несподіванки та помилки. Обов’язково перевіряйте факти та діліться відгуками, щоб ми могли вчитися та вдосконалюватися!”, — йдеться в повідомленні Microsoft.
Представниця Google Джейн Парк своєю чергою каже:
“Це підкреслює важливість ретельного тестування, який ми розпочинаємо цього тижня. Ми поєднаємо зовнішні відгуки з нашим власним внутрішнім тестуванням, щоб переконатися, що відповіді Bard відповідають високій планці якості, безпеки та обґрунтованості реальної інформації”.
Рекламне відео з помилкою переглянули 1,6 млн людей у Twitter. А за деякий час після його публікації, акції Alphabet впали на 9%, а ринкова вартість знизилась на $100 млрд. Минулого року акції материнської компанії Google втратили 40% своєї вартості, але зросли на 15% з початку цього року (без урахування втрат у середу).
Bard is an experimental conversational AI service, powered by LaMDA. Built using our large language models and drawing on information from the web, it’s a launchpad for curiosity and can help simplify complex topics → https://t.co/fSp531xKy3 pic.twitter.com/JecHXVmt8l
— Google (@Google) February 6, 2023