Іноді відповіді Google AI Overview та решти ШІ можуть здаватися докладними та переконливими, але насправді містять маячню. Американський письменник довів, як легко “втулити” ШІ нісенітницю.
На початку зародження більш-менш схожих на сучасні комп’ютерних ігор в англомовному середовищі виникла розшифровка AI як artificial idiot (“штучний ідіот”), у значенні інтелекту NPC, котрі не надто вирізнялися розумною поведінкою. Здається, жарт не втрачає актуальності й зараз, коли мільйони людей звертаються до ШІ за порадою або за пошуком інформації. Як зауважує PC Gamer, котрий переповів цю історію, будь-яка фраза, яку хтось десь пише, ймовірно, спонукає Google AI Overview переглядати свої відповіді, і правда тут не далеко не головний критерій.
Письменник, автор романів про “Зоряні війни” та власного фентезі, Чак Вендіг взагалі не має кота. Але це не завадило огляду Google як джерело інформації про людину використовувати блог, у якому він жартує про кота на ім’я Сер Мяулінгтон фон Піссбрет (Sir Mewlington Von Pissbreath). У власному грудневому дописі (почитайте, там дуже багато смішних деталей і скріншотів) Вендіг дивується, що пошук у Google за запитом “Чи має Чак Вендіг кота?” призвів до появи огляду ШІ, в якому стверджувалося, що в нього справді є домашній улюбленець на ім’я Бумба. Імена відрізняються, але це лише початок історії, не поспішайте.
“Настав час поговорити про мого кота. На що ви, можливо, скажете: “Чаку, я не знав, що в тебе є кіт!”, а я відповім: “Я теж не знав, що в мене є кіт”. Але Google, найвидатніша пошукова система, знає, завдяки своєму чудовому, ніколи не неточному AI Overview, який зовсім не є шматком лайна, що вигадує інформацію”, — починає розповідь Чак.
В подальших результатах AI Overview пояснював, що його кіт Бумба помер, і що він взяв нового кота на ім’я Франкен. Google посилався на блог Вендіга для отримання цієї інформації: поверховий пошук у блозі показує, що він ніколи не використовував слів Бумба чи Франкен.
Далі Чак розповідає, що багаторазові пошукові запити, пов’язані з іменами його уявних домашніх тварин, призвели до того, що Google постійно вигадував нові імена та домашніх тварин одне за одним. Також у відповідях, що він хворів на рак і публічно прийняв християнство — вгадайте, чи відбувалося це насправді.
“Що за чорт? Тепер є Кетлін? Кетлін дружить з Д’Артаньяном? Чи є шанс, що всі ці коти — це просто оригінальний кіт, Бумба?? Також у мене є собака на ім’я Роксі? Що сталося з моїми двома іншими собаками, Лоа та Снубагом? Чи є в мене ще домашні тварини, про яких я не знаю?”
Вендіг завершив пост жартівливою згадкою “свого” кота, якого звуть сер Мяулінгтон фон Піссбрет, який точно справжній, якому шість років, який носить маленький циліндр і також “обмежено розмовляє кантонською”.
Якщо читач здивований, чому автор переповідає таку давню історію у новинах, то це знову через поспіх. Адже за шість тижнів після подій, 19 січня, Google AI Overview таки включив сера Мяулінгтона до величезного корпусу “фактів” про письменника. Чак Вендіг написав про це в Bluesky (видно тільки зареєстрованим користувачам, але є скриншот).
Завершити хочеться ще однією цитатою Вендіга, яка влучно передає суть: “Це просто приємне маленьке нагадування про те, що генеративний ШІ — це лайно. Повне лайно! Він зішкребе все, що ми коли-небудь написали, а потім навіть не зможе достатньо швидко це розібрати, щоб дати нам правильну відповідь, весь час спалюючи світ, щоб збрехати нам. Яку ж справді кошмарну річ ми створили! Ісусе Христе, ми вже готові!”
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: