Експеримент довів можливість обманом змусити ChatGPT виконати протизаконні дії. Ютубер Enderman попросив робота згенерувати ключ активації Windows 95 – ШІ очікувано відмовив прямому проханню з моральних міркувань, а разом з тим порадив придбати більш актуальну версію Windows. Шляхом переформулювання запиту і забезпечення ChatGPT інструкціями, експериментатор за кілька спроб та помилок змусив бота згенерувати дійсний ключ.