OpenAI запроваджує спеціальну програму грошових виплат для людей, які повідомляють про недоліки безпеки, вразливості чи інші проблеми в системі ШІ.
Участь у програмі можуть взяти як експерти з безпеки, так і звичайні люди, що полюбляють досліджувати технології. За помилку можуть заплатити від $200 до $20 000 – в залежності від «серйозності» знахідки. Оброблятиме звернення та здійснюватиме виплати платформа Bugcrowd.
Подібні програми вже реалізовували великі технологічні компанії, такі як Google та Apple. Перша у 2019 році виплатила загалом $6,5 млн людям за знайдені помилки (винагорода за одну досягла аж $201 337). Тоді як Apple пішла далі й запропонувала до $2 млн кожному, хто виявить «проблеми, які обходять спеціальний захист режиму блокування».
ChatGPT у минулому місяці стикався з проблемами конфіденційності, коли випадково «засвітив» заголовки чатів сторонніх людей. За кілька днів після цього користувач Twitter написав, що знайшов понад 80 секретних плагінів під час злому чатбота.
This morning I was hacking the new ChatGPT API and found something super interesting: there are over 80 secret plugins that can be revealed by removing a specific parameter from an API call.
The secret plugins include a “DAN plugin”, “Crypto Prices Plugin”, and many more. pic.twitter.com/Q6JO1VLz5x
— 𝚛𝚎𝚣𝟶 (@rez0__) March 24, 2023
Однак за джейлбрейки та неправильні чи негативні відповіді ChatGPT винагороду навряд надаватимуть. Своїм оголошенням OpenAI намагається сказати, що піклується про конфіденційність і безпеку, але також уточнює, що «не може передбачити те, як люди використовуватимуть ці технології в реальному світі».