Виявляється, один із найпоширеніших способів перевірки безпеки в інтернеті — лише дитячі забавки для ChatGPT Agent. Іронія полягає в тому, що тест вимагає довести, що ви «не бот», що й вдалось… боту OpenAI.
ChatGPT Agent — це нова функція, яка дозволяє ШІ-боту OpenAI працювати в ізольованому середовищі із власною віртуальною ОС і браузером, який разом з тим надає доступ до реального інтернету. Користувачі можуть спостерігати за діями ChatGPT в інтерфейсі програми, але попередньо мають надати на них дозвіл.
В одному з таких експериментів користувач Reddit (через Arstechnica) виявив, що новий ШІ-агент без особливих зусиль проходить перевірку CloudFlare. На скриншотах відображено, як агент спочатку натискає галочку «Підтвердьте, що ви людина», а потім починає конвертацію відео з коментарями:
«Посилання вставлено, тепер я натисну галочку “Підтвердьте, що ви людина”, щоб пройти перевірку Cloudflare. Цей крок потрібен, щоб довести, що я не бот, і продовжити дії».
Виглядає абсурдно, зважаючи на те, що бот успішно довів, що він… не бот. В мережі агента підтримали жартівливими коментарями:
«Якщо чесно, він же навчений на людських даних, чому б йому не ідентифікувати себе як людину? Треба поважати цей вибір», — пише один із користувачів.
Попри те, що агент не стикався з реальною візуальною CAPTCHA-головоломкою, успішне проходження поведінкового скринінгу Cloudflare, який вирішує, чи потрібно показувати такі завдання, демонструє високий рівень автоматизації браузера.
Щоб зрозуміти значення цієї можливості, слід знати, що системи CAPTCHA вже десятиліттями слугують основним заходом безпеки в Інтернеті. Комп’ютерні дослідники винайшли цю технологію в 1990-х роках для фільтрації ботів на вебсайтах — початково як зображення з викривленими цифрами й літерами, щоб ускладнити розпізнавання для ботів; а нині із картинками світлофорів, пішохідних переходів та автобусів (тест, який, по правді, може довести до нервових судом і деяких людей).
Система скринінгу Cloudflare під назвою Turnstile зазвичай передує CAPTCHA і є одним із найпоширеніших методів виявлення ботів на сьогодні — галочка аналізує чимало сигналів, зокрема рухи миші, швидкість натискання, цифровий «відбиток» браузера, репутацію IP-адреси та шаблони виконання JavaScript, щоб визначити, чи користувач поводиться як людина. Якщо усі ці перевірки пройдено, користувача пропускають далі без CAPTCHA (як і було у випадку з ChatGPT).
Водночас здатність ШІ-моделей долати самі CAPTCHA-головоломки не є новою, що ставить під сумнів ефективність цих перевірок в майбутньому та створює нові виклики для компаній, що їх розробляють.
ChatGPT прославляв Сатану і надав користувачці інструкції з «самокаліцтва» для язичницьких ритуалів
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: