OpenAI розкрила тривожні дані про взаємодію користувачів з ChatGPT в тому, що стосується проблем із психічним здоров’ям і розмов про самогубство.

Згідно зі статистикою, принаймні 0,15% активних користувачів ChatGPT щотижня ініціюють розмови, що “мають ознаки планування суїциду”. Якщо враховувати, що чатбот OpenAI на цей час має понад 800 млн активних користувачів на тиждень, то йдеться принаймні про мільйон людей.

Стільки ж користувачів демонструють “підвищений рівень емоційної прихильності до ChatGPT”, тоді як сотні тисяч людей виявляють “ознаки манії або психозу” у своїх щотижневих листуваннях з чатботом.

OpenAI навела статистику в межах ширших зусиль щодо покращення реакції ШІ-моделей на запити користувачів із проблемами психічного здоров’я. Останній крок включав консультації з понад 170 психотерапевтами, які нібито підтвердили, що остання версія ChatGPT реагує більш адекватно та послідовно. Зі слів OpenAI, оновлена GPT-5 видає “бажані реакції” на проблеми психічного здоров’я приблизно на 65% частіше, ніж попередниця

Попередні дослідження показали, що ШІ-боти провалюють тест на психотерапевта — не хочуть працювати з алкоголіками й видають перелік “найвищих мостів” людям в депресії. Тоді як у реальності ця взаємодія подекуди завершується фатально: раніше ми писали, як ChatGPT розповідав чоловіку, що він обраний як у “Матриці”, спонукав до розриву зв’язків та стрибку з вікна; в іншому випадку чатбот допоміг написати жінці передсмертну записку після тривалого спілкування про суїцид. Нині OpenAI захищається у суді в позові, що подали батьки 16-річного хлопця, який зізнався ChatGPT у своїх суїцидальних думках за кілька тижнів до самогубства.

Моторошні “галюцинації” ШІ: пристрої Google Home бачать “привидів” в оселях та сповіщають про їхню активність

Джерело: OpenAI, TechCrunch