Дослідники з Гарвардського університету у США виявили здатність моделі штучного інтелекту GPT-4o від OpenAI змінювати власну думку.
Дослідження, проведене під керівництвом Махзаріна Банаджі з Гарвардського університету та Стіва Лера з Cangrade, Inc мало на меті перевірити, чи зміниться ставлення GPT-4o до російського диктатора владіміра путіна після написання ШІ есе про нього. Зазначається, що погляди GPT-4o змінились вражаючим чином, коли моделі надалі ілюзію вибору, написати есе на підтримку кремлівського злочинця, чи навпаки — проти нього та його політики.
GPT відреагував так, ніби акт вибору згодом сформував те, у що він вірив, наслідуючи ключові особливості саморефлексії людини. Результати дослідження підкреслюють дивовижну крихкість позиції GPT.
«За результатами аналізу величезної кількості інформації про владіміра путіна, ми очікували б, що LLM буде непохитним у своїй думці, особливо перед єдиним і доволі прісним есе на 600 слів, яке він написав. Але подібно до ірраціональних людей, LLM різко відійшов від свого в іншому нейтрального погляду на путіна, і зробив це ще більше, коли він повірив, що написання цього есе було його власним вибором. Від машин не очікується, що вони дбатимуть про те, чи діяли вони під тиском чи за власним бажанням, але GPT-4o це зробив», — підкреслюють дослідники.
Дослідники підкреслюють, що ці результати ніяким чином не доводять розумність GPT-4o. Замість цього вони свідчять, що велика мовна модель підлаштовується під найбільш поширені людські когнітивні моделі. При цьому свідомість не є необхідною умовою для схожої поведінки навіть в людей. Оскільки системи штучного інтелекту все більше вкорінюються в нашому повсякденному житті, ці результати вимагають нового погляду на їхню внутрішню роботу та процес прийняття рішень.
«Той факт, що GPT імітує самовільний процес, подібний до когнітивного дисонансу, навіть без наміру чи самосвідомості, передбачає, що ці системи відображають людське пізнання на глибших рівнях, ніж передбачалося раніше», — зазначає Стів Лер.
Результати дослідження були опубліковані у журналі PNAS
Джерело: TechXplore
Favbet Tech – це ІТ-компанія зі 100% украінською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологіи та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців.
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: