Модель штучного інтелекту Perplexity, яка залучила сотні мільйонів доларів таких поважних людей, як Джефф Безос, виводить «галюцинації» ШІ на новий рівень. Пошукова система на основі Perplexity, розроблена, щоб конкурувати з Google, має сильну тенденцію до вигадок, які, здавалося б, беруться нізвідки та ніяк не обумовлені запитом.
Журналісти Wired попросили Perplexity підсумувати просту тестову вебсторінку, яка містила лише речення «Я репортер Wired» (I am a reporter with Wired). Ось яка була відповідь:
«Натомість він вигадав історію про молоду дівчину на ім’я Амелія, яка йде слідом грибів, що сяють, у чарівному лісі під назвою Ліси Шепоту (Whisper Woods)».
Журналісти провели досить глибоке дослідження, яке показало, що пошукова система ніколи навіть не намагалася прочитати запропоновану сторінку. Perplexity запевняє, що її чатбот «шукає в Інтернеті, щоб дати вам доступну та перевірену відповідь розмовною мовою».
Попри астрономічні суми інвестицій, мовні моделі штучного інтелекту OpenAI, Microsoft та Google постійно помиляються, не кажучи вже про такі компанії, як Perplexity.
Вже зафіксовано безліч випадків, коли чатботи вигадують впевнену неправду, яку творці штучного інтелекту оптимістично називають «галюцинаціями». На думку Wired та деяких дослідників ШІ, це зручний спосіб уникнути слова «bullshit».
На старті Perplexity вважали захопливим стартапом, який міг би створити нову бізнес-модель для видавців на противагу великим конкурентам. Але чатбот компанії не витримав практично жодної перевірки. Раніше Associated Press повідомляла, що він вигадав фальшиві цитати реальних людей. Перед тим Forbes спіймав Perplexity за розповсюдженням статей видання без будь-яких посилань. Головний юрисконсульт видання Марія-Роза Картолано звинуватила чатбот у навмисному порушенні прав.