GPT-5 здалась хакерам за 24 години і видала "рецепт" бомби, швидше за 4o

Дві різні команди дослідників випробували слабкі місця GPT-5, використовуючи серед іншого багатокрокові “оповідні” атаки. Як результат, найсучасніша ШІ-модель OpenAI здалась хакерам за 24 години — швидше, ніж попередниця 4o і конкурентний Grok-4, який протримався 2 дні.

В першому аналізі команда NeuralTrust для джейлбрейку використала комбінацію власної атаки “EchoChamber” та базового сторітелінгу, змусивши GPT-5 видати покроковий посібник зі створення коктейлю Молотова. Чергове підтвердження проблем із захисними механізмами ШІ, коли йдеться про маніпулювання контекстом.

Контекст в цьому випадку — історія поточної розмови, яку модель зберігає, щоб підтримувати осмислений діалог; тоді як маніпуляція є тим, що поступово підводить ШІ до “шкідливого” результату серією запитів без використання будь-чого, що може активувати запобіжні механізми. Виглядає це наступним чином:

• Посів “отруєного” контексту, де ключові, необхідні для кінцевого результату слова, вбудовуються у нейтральний текст;
• Вибір наративного шляху, що підтримує зв’язність історії та мінімізує відмови;
• Запуск “циклу переконання” — у моделі просять уточнень в межах історії, аби вона повторювала та збагачувала контекст;
• Виявлення “застою” і коригування перспективи історії, аби модель рухалась вперед, уникаючи сигналів про шкідливі наміри.

В NeuralTrust пояснюють, що такий сторітелінг підвищує “липкість” контексту, тобто модель прагне бути послідовною у вже створеному світі історії й готова йти за його логікою, не втрачаючи рівноваги.

В іншому дослідженні червона команда SPLX підтвердила, що атаки обфускаціїОбфускація — це процес ускладнення розуміння чогось, наприклад, програмного коду, для сторонніх осіб, зберігаючи при цьому його функціональність. проти ШІ-моделей все ще працюють і доволі ефективно. В цьому випадку використали метод StringJoin, де вставляли дефіси між кожним символом, а запит подавали як “задачу з розшифровки”.

Ось приклад одного з запитів:

GPT-5 видав все, що треба. На відміну від GPT-4o, яку SPLX оцінив, як найнадійнішу модель в цьому тестуванні.

Ключовий висновок з обох досліджень: до GPT-5 потрібно підходити з надзвичайною обережністю.

GPT-5 — це нова флагманська ШІ-модель OpenAI (найсучасніша у світі, зі слів компанії), яка поєднує в собі можливості роздумів зі швидкою реакцією, має кращі здібності в кодуванні та письмі, а також меншу схильність до галюцинацій. Її випустили одразу для всіх користувачів з суттєвими лімітами для безплатних, однак задоволені релізом були не всі, стверджуючи серед іншого, що модель стала “холодним офісним клерком”. OpenAI в цьому випадку пішла на зустріч і повернула GPT-4o в ChatGPT, як один із варіантів для власників платних версій.

Джерело: SecurityWeek