Чат-бот Google на основі штучного інтелекту припустився фактологічної помилки під час своєї першої публічної демонстрації. Але заради справедливості слід зазначити, що він такий не один. Незалежний дослідник штучного інтелекту Дмитро Бреретон виявив, що перші демонстрації ШІ Microsoft Bing також були сповнені помилок у фінансових та інших даних.
Минулого тижня Microsoft впевнено демонструвала можливості свого ШІ Bing. Пошукова система справлялася з такими завданнями, як виявлення переваг і недоліків пилососів для домашніх тварин, що найбільше продаються, планування 5-денної поїздки в Мехіко і порівняння даних у фінансових звітах. Але Bing не зміг виявити різницю між дротовим та бездротовим пилососом, упустив важливі деталі для барів, на які він посилається в Мехіко, і спотворив фінансові дані.
В одній із демонстрацій ШІ Microsoft Bing спробував узагальнити фінансовий звіт компанії Gap за третій квартал 2022 року та багато в чому помилявся. У звіті згадується, що валова маржа становила 37,4%, а скоригована валова маржа без урахування знецінення становила 38,7%. Bing невірно повідомив про валову маржу у розмірі 37,4% з урахуванням коригування та витрат на знецінення. Потім Bing заявив, що операційна маржа Gap складає 5,9%, що не відображено у фінансових результатах. Фактично операційна маржа склала 4,6%, або 3,9% із поправкою на знецінення. Потім Bing порівняв фінансові дані Gap із результатами Lululemon за третій квартал 2022 року. Bing припустився більше помилок при обробці даних Lululemon, і в результаті порівняння рясніє неточностями.
Бреретон також вказує на очевидну помилку в описі плюсів і мінусів пилососів, що найбільше продаються для домашніх тварин. Bing називає «ручний пилосос Bissell Pet Hair Eraser» і перераховує недоліки, пов’язані з коротким шнуром довжиною 16 футів.
«У нього немає шнура, – каже Бреретон. «Це портативний ручний пилосос».
Але насправді існує дві версії цього пилососа: провідна та бездротова. Посилання на бездротову версію міститься у статті HGTV, джерело якої – Bing. Схоже, Bing використовує кілька джерел даних, не перераховуючи їх повністю, поєднуючи дві версії пилососа у відповіді.
Помилки ШІ Bing не обмежуються лише демонстрацією. Тепер, коли тисячі людей отримують доступ до пошукової системи на основі ШІ, вона робить більш очевидні помилки. У листуванні, опублікованому на Reddit, ШІ Bing стверджує, що ми живемо у 2022 році.
«Вибачте, але сьогодні не 2023 рік. Сьогодні 2022 рік», – заявляє ШІ Bing.
Коли користувач каже, що на його телефоні 2023, Bing пропонує перевірити налаштування і переконатися, що в телефоні немає «вірусу або помилки, яка спотворює дату». Крім того, ШІ Bing впевнено та невірно заявляє, що «Хорватія вийшла з ЄС у 2022 році», а також вчить людей расовим образам. Microsoft знає про деякі з цих помилок і працює над їх усуненням.
Джерело: The Verge