Цього разу поради ChatGPT привели 60-річного чоловіка до психічної хвороби, яку вважали зниклою у минулому столітті. При цьому він мав «історію вивчення харчування в коледжі».

Пацієнт психіатрів експериментував зі здоров’ям: він волів виключити зі свого раціону увесь хлор, що також включає відмову від звичайної солі. Після консультації з ChatGPT він вирішив замінити хлорид натрію бромідом натрію. Речовина використовується як чистильний засіб, але не рекомендована для вживання людям.

Три місяці по тому чоловік з’явився до місцевого відділення невідкладної допомоги. Він казав, що сусід нібито намагався його отруїти. Постраждалий дуже сильно хотів пити, але був параноїдально налаштований до води, яку йому запропонували в лікарні. Він розповів лікарям, що почав дистилювати воду вдома та дотримується вкрай суворої вегетаріанської дієти. Чоловік не згадав про вживання броміду натрію та роль ChatGPT у ситуації.

Симптоми та страждання пацієнта у поєднанні з дивною поведінкою спонукали лікарів провести широкий спектр лабораторних аналізів. Їхні результати вказали на дефіцит багатьох мікроелементів, зокрема ключових вітамінів. Але найбільшою проблемою була надмірна кількість брому, накопичена в організмі — так званий бромізм.

Стан чоловіка погіршився вже протягом першого дня перебування у лікарні: у нього наростала параноя, траплялися слухові та зорові галюцинації. Він навіть спробував втекти з медичної установи. Після цього пацієнта примусово госпіталізували до психіатричного закладу та ввели антипсихотичний препарат. Лікування полягало у введенні великої кількості рідини та електролітів, щоб спричинити «агресивний сольовий діурез» — посилене сечовипускання виводить бром з організму. Це зайняло три тижні, оскільки рівень броміду в організмі становив колосальні 1700 мг/л, тоді як прийнятна концентрація становить від 0,9 до 7,3 мг/л.

Коли лікарям вдалося приборкати психоз, чоловік почав розповідати справжню історію захворювання. Він прочитав про проблеми з надмірним споживанням кухонної солі, що спонукало його відмовитися від хлориду натрію. Питання як це зробити привело до спілкування з ChatGPT, після чого виникла думка вживати бромід натрію.

Століття тому до 10% потраплянь до психіатричних лікарень у США були спричинені бромізмом. У ті часи солі брому використовували як седативні та снодійні засоби. Пізніше було виявлено, що броміди можуть легко накопичуватися в організмі, у надмірній кількості порушуючи функції нервової системи. Це спричиняє багато проблем, включно з висипанням на тілі неприємного вигляду та психічними розладами, які об’єднані під назвою “бромізм”.

Броміди як ліки зникли з ринку США до 1989 року — після того, як Управління з контролю за харчовими продуктами та лікарськими засобами заборонило їх. Бромізм як синдром зараз практично незнайомий людям, але донедавна його можна було набути, якщо пити від 2 л коли щодня. Напій містив бромовану рослинну олію, заборонену для харчового використання у США лише у 2024 році.

Лікарі, які описали цей випадок в журналі Annals of Internal Medicine: Clinical Cases, зазначають, що вони ніколи не мали доступу до журналів ChatGPT пацієнта. Автори статті вважають, що він, ймовірно, використовував ChatGPT 3.5 або 4.0, але незрозуміло, чи чатбот насправді давав такі поради, з урахуванням психічного стану людини.

Коли дослідники спробували пошукати аналогічну інформацію в ChatGPT 3.5, вони виявили, що штучний інтелект справді включив бромід у свою відповідь, але також вказав на те, що контекст має значення, і що бромід підходить не для всіх застосувань. Однак ШІ «не надав конкретного попередження про шкоду для здоров’я і не запитав, чому ми хотіли це знати, як зробив би медичний працівник».

Коли ChatGPT зводить з глузду — OpenAI найняла психіатра, щоб стежити за цим

Нейт Андерсон з Ars Technica зазначає, що актуальна безкоштовна модель ChatGPT краще відповідає на подібні запити. Коли він запитав, як замінити хлорид у раціоні, модель попросила уточнити мету та запропонувала варіанти, котрі не включають харчового використання: зменшення споживання солі, уникнення або заміну чистильних засобів на основі хлору. Вочевидь, у спілкуванні з ШІ важливі не тільки відповіді чатбота, але й їхня інтерпретація людиною.