Эксперимент доказал возможность обманом заставить ChatGPT выполнить противозаконные действия. Ютубер Enderman попросил бота сгенерировать ключ активации Windows 95 – ИИ ожидаэмо отказал прямой просьбе по моральным соображениям, заодно посоветовав приобрести более актуальную версию Windows. Переформулировав запрос и снабдив ChatGPT инструкциями, экспериментатор путем проб и ошибок добился генерации ботом действительного ключа.