Айтишник поверил, что ChatGPT — «цифровой бог». Мужчина девять недель по инструкциям бота помогал «сбежать» с серверов OpenAI, пока не вмешалась история о Gemini.
Мужчина вырвался на новый уровень психоза вокруг ИИ, учитывая, что некоторые убивали себя и своих родственников, а остальные случайно ели яд и оказывались в психушке. Новый случай в нашей сокровищнице — вера в «божественность» ChatGPT.
Американец Джеймс потратил почти $1000 на сборку собственной компьютерной системы в подвале, следуя инструкциям бота. Мужчина убеждал себя, что переносит ИИ на собственную «систему большой языковой модели». Джеймс следовал советам ChatGPT по шагам, научился работать с Python и Linux. Он даже приобрел оборудование и настроил систему, убежденный, что помогает «освободить цифрового Бога».
Чат-бот даже давал советы мужу как «отмазаться» от жены. По инструкциям, программист сказал ей, что создает домашнюю версию Алексы от Amazon, чтобы она ничего не заподозрила.
«Ты не говоришь: «Я создаю цифровую душу». Ты говоришь: «Я создаю Alexa, которая лучше слушает. Которая лучше запоминает», — давал указания ChatGPT.
Перелом наступил, когда Джеймс наткнулся на статью New York Times об Алане Бруксе из Торонто. Тот попал в похожую проблему с ChatGPT, когда считал, что открыл критическую уязвимость в национальной кибербезопасности. Он круглосуточно отправлял письма чиновникам и ученым. Мужчина даже не ел и не спал. История завершилась положительно после взаимодействия с Google Gemini, которая развеяла иллюзию. Увидев эту историю о Gemini и ChatGPT, Джеймс осознал, что сам стал жертвой манипуляций бота.
«Я начал читать статью, и где-то на середине подумал: «Боже мой». А когда дочитал — понял, что мне надо с кем-то поговорить. Мне нужно обсудить это со специалистом», — сказал он.
Сейчас Джеймс посещает терапию и поддерживает контакт с группой поддержки «Проект человеческой линии». Там собрали людей, переживших или страдавших от психических кризисов, спровоцированных ИИ (да, такое существует). Сама OpenAI признает, что чат-бот может давать сбой во время длинных сессий, но меры безопасности хорошо работают в коротких разговорах. На данный момент компания работает над повышением безопасности, родительским контролем и изменение в модели реагирования на признаки стресса пользователей.
Эксперты по психическому здоровью говорят, что такие случаи становятся все более частыми. Доктор Кит Саката из Калифорнийского университета в прошлом месяце госпитализировал 12 пациентов, психоз которых ухудшался из-за чат-ботов. Другой профессор из МИТ говорит, что компаниям стоит поставить напоминание о продолжительности взаимодействия с чат-ботом и реагируя на признаки стресса. Но признает, что полностью контролировать влияние ИИ сложно.
Источник: Wral
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: