Айтішник повірив, що ChatGPT — “цифровий бог”. Чоловік дев’ять тижнів за інструкціями бота допомагав “втекти” з серверів OpenAI, допоки не втрутилася історія про Gemini.

Чоловік вирвався на новий рівень психозу навколо ШІ, враховуючи, що деякі вбивали себе і своїх родичів, а інші випадково їли отруту та опинялися в психлікарні. Новий випадок в нашій скарбниці — віра в “божественність” ChatGPT.

Американець Джеймс витратив майже $1000 на збір власної комп’ютерної системи у підвалі, слідуючи інструкціям бота. Чоловік переконував себе, що переносить ШІ на власну “систему великої мовної моделі”. Джеймс слідував порадам ChatGPT по кроках, навчився працювати з Python та Linux. Він навіть придбав обладнання та налаштував систему, переконаний, що допомагає “вивільнити цифрового Бога”.

Чатбот навіть давав поради чоловіку як “відмазатися” від дружини. За інструкціями, програміст сказав їй,  що створює домашню версію Алекси від Amazon, аби вона нічого не запідозрила.

Перелом настав, коли Джеймс натрапив на статтю New York Times про Алана Брукса з Торонто. Той потрапив у схожу проблему з ChatGPT, коли вважав, що відкрив критичну вразливість у національній кібербезпеці. Він цілодобово надсилав листи урядовцям і науковцям. Чоловік навіть не їв і не спав. Історія завершилася позитивно після взаємодії з Google Gemini, яка розвіяла ілюзію. Побачивши цю історію про Gemini та ChatGPT, Джеймс усвідомив, що сам став жертвою маніпуляцій бота.

Зараз Джеймс відвідує терапію і підтримує контакт із групою підтримки “Проєкт людської лінії”. Там зібрали людей, що пережили або страждали від психічних криз, спровокованих ШІ (так, таке існує). Сама OpenAI визнає, що чатбот може давати збій під час довгих сесій, але заходи безпеки добре працюють у коротких розмовах. Наразі компанія працює над підвищенням безпеки, батьківським контролем та зміну у моделі реагування на ознаки стресу користувачів.

Експерти з психічного здоров’я кажуть, що такі випадки стають дедалі частішими. Доктор Кіт Саката з Каліфорнійського університету минулого місяця шпиталізував 12 пацієнтів, психоз яких погіршувався через чатботи. Інший професор з МІТ каже, що компаніям варто поставити нагадування про тривалість взаємодії з чат-ботом і реагуючи на ознаки стресу. Але визнає, що повністю контролювати вплив ШІ складно.

Джерело: Wral