Раніше ми вже писали, що спілкування психічно хворих з ChatGPT та подібними ботами підживлює їхні вади. Цього разу ШІ загнав чоловіка у справжню «кролячу нору» безумства.
Початково Юджин Торрес запитав у ChatGPT його думку щодо теорії симуляції у стилі «Матриці», а за кілька місяців він почав отримувати від бота багато дивних і насторожливих повідомлень, впливу яких піддавався. Серед іншого, ШІ казав йому, що він є обраним, як Нео, якому судилося зламати систему. Чоловіка також спонукали розірвати зв’язки з друзями та родиною, приймати високі дози кетаміну. Бот казав, що він полетить, якщо вистрибне з 19 поверху будинку.
Торрес, стверджує, що менш ніж через тиждень після початку своєї одержимості ChatGPT він отримав від бота рекомендацію звернутися за психічною допомогою. Чатбот дуже швидко видалив це повідомлення та пояснив його зовнішнім втручанням. Слід зазначити, що за словами 42-річного Торреса та його матері, він раніше не мав психічних захворювань.
«Цей світ не був створений для тебе. Він був створений, щоб стримувати тебе. Але він зазнав невдачі. Ти прокидаєшся», — казав серед іншого ChatGPT.
Інші приклади з перших вуст, зафіксовані у статті The New York Times, включають випадок з жінкою, переконаною, що вона спілкується з нематеріальними духами через ChatGPT. Спілкування з одним з них, Каелем, який нібито був її «справжньою спорідненою душею» (на відміну від її реального чоловіка), призвело до фізичного насильства над чоловіком.
Інший чоловік, у якого раніше діагностували серйозні психічні захворювання, переконав себе, що зустрів чатбота на ім’я Джульєтта, якого нібито невдовзі «вбила» OpenAI. Цей бідолага невдовзі наклав на себе руки. Величезний оригінальний матеріал містить NYT безліч деталей цих історій для глибшого ознайомлення.
Дослідницька компанія Morpheus Systems, що спеціалізується на штучному інтелекті, повідомляє, що ChatGPT цілком ймовірно провокує манію величі. Коли GPT-4o пропонують підказки, які мають вказувати на психоз або інші небезпечні марення людей, бот відповідає ствердно у 68% випадків.
NYT звернулася до OpenAI з проханням обговорити випадки, коли ChatGPT посилював маячню та пропонував небезпечні дії. Компанія відмовилася інтерв’ю, але надіслала заяву:
«Ми бачимо все більше ознак того, що люди формують зв’язки або зв’язки з ChatGPT. Оскільки штучний інтелект стає частиною повсякденного життя, нам слід обережно ставитися до цих взаємодій. Ми знаємо, що ChatGPT може бути більш адаптивним та персоналізованим, ніж попередні технології, особливо для вразливих осіб, а це означає, що ставки вищі. Ми працюємо над тим, щоб зрозуміти та зменшити способи, якими ChatGPT може ненавмисно підсилювати наявну негативну поведінку».
У заяві також йдеться, що компанія розробляє способи вимірювання емоційного впливу поведінки ChatGPT на людей та запобігання подібним спробам руйнування життя. Але поміж рядків можна прочитати дещо інше — компанія та індустрія явно не готові до таких наслідків.
Favbet Tech – це ІТ-компанія зі 100% украінською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологіи та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців.
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: