Користувач вважав, що ChatGPT написав для нього дитячу книгу обсягом 700 сторінок та 500 МБ. Reddit тріщав від сміху, коли він запитав там, як цю книгу завантажити.

На Reddit користувач Emotional_Stranger_5 розповів, що він 16 днів працював з ChatGPT над ілюстрованою дитячою книгою, призначеною для подарунка групі місцевих дітей. Вважаючи, що чатбот непомітно працював над створенням книги, він звернувся до сабредиту OpenAI, щоб запитати, як завантажити готовий документ (оригінальний допис згодом видалив автор, але коментарі все ще існують).

Найбільш кмітливі читачі цієї новини вже здогадалися, що ніякої книги чатбот насправді не писав, а лише говорив про це. Він лише повідомляв горе-автора, що створює 700-сторінковий том. Тон готовності допомогти, характерний для великих мовних моделей, не відображає фактичного наміру чи роботи довготривалої пам’яті. Крім діалогів про це, ніякого результату просто не існувало.

Emotional_Stranger_5 уточнив, що не просив ChatGPT писати книгу з нуля. Він особисто витратив два з половиною місяці на адаптацію історій з індійської міфології та хотів, щоб ШІ покращив стиль твору та створив ілюстрації. Але вже після того, як Reddit вибухнув коментарями, яких наразі майже 300.

• «Воно каже вам те, що ви хочете почути, граючи роль. Він зробив те саме зі мною, сказав, що мій zip-файл скоро буде доступний».
• «Якщо ChatGPT коли-небудь повідомляє, що він працює над чимось у фоновому режимі, але немає індикатора прогресу чи індикатора інтерфейсу користувача для цього, то насправді він над цим не працює. Він ще нічого для вас не створив, він просто каже, що створив. Вам потрібно окремо запитувати кожен розділ і зображення».
• «Добре, ти що, серйозно??»
• «Книга на 700 сторінок була б далеко за межами наявних токенів, лол»
• «Кумедно, як мало людей насправді здатні усвідомити той факт, що ми просто зробили так, що комп’ютери можуть нам брехати»
• «Якщо тобі байдуже написати книгу, то навіщо комусь її читати? Перестань бути студентами магістратури, ха-ха»
• «Майте на увазі, що LLM навчаються на викрадених творах, захищених авторським правом, і якщо ви використовуєте їх у своїй книзі, існує не така вже й мала ймовірність того, що вкрадений твір, захищений авторським правом, буде введений у неї, що зробить вас вразливими до судового позову»

Але один з користувачів все ж спробував дати бідолазі розгорнуте пояснення:

Зрештою, «автор» визнав, що ChatGPT його надурив, завдяки підказкам та глузуванням спільноти. Головний редактор PC Gamer Тайлер Вайлд, котрий написав про цю історію, провів власний експеримент схожий на те, що намагався зробити Emotional_Stranger_5. Він попросив бота створити ілюстровану версію «Мобі Діка» у визначеному стилі та, закономірно, теж зазнав невдачі.

Досвід, і не тільки цей, говорить, що люди часто звертаються до інструментів ШІ без усвідомлення їхніх технічних та функціональних можливостей, а також зі сліпою довірою до правдивості результату — попри широко відому проблему «галюцинацій». Вчені отримують химерні ілюстрації в наукових роботах і не тільки, юристів штрафують через вигадані прецеденти у справах, ШІ надурив навіть Білий дім — але, здається, все ще має якийсь безмежний кредит довіри.