OpenAI вводит специальную программу денежных выплат для людей, сообщающих о недостатках безопасности, уязвимости или других проблемах в системе ИИ.
Участие в программе могут принять как эксперты по безопасности, так и обычные люди, которые любят исследовать технологии. За ошибку могут заплатить от $200 до $20 000 – в зависимости от «серьезности» находки. Обрабатывать обращения и выплаты будет платформа Bugcrowd.
Подобные программы уже реализовывались крупными технологическими компаниями, такими как Google и Apple. Первая в 2019 году выплатила в общей сложности $6,5 млн людям за найденные ошибки (вознаграждение за одну достигло $201 337). В то время как Apple пошла дальше и предложила до $2 млн каждому, кто обнаружит «проблемы, обходящие специальную защиту режима блокировки».
ChatGPT в прошлом месяце сталкивался с проблемами конфиденциальности, когда случайно «засветил заголовки чатов посторонних людей». Через несколько дней после этого пользователь Twitter написал, что нашел более 80 секретных плагинов во время взлома чат-бота.
Однако за джейлбрейки и неправильные или негативные ответы ChatGPT вознаграждения вряд ли будут предоставляться. Своим объявлением OpenAI пытается сказать, что заботится о конфиденциальности и безопасности, но также уточняет, что «не может предусмотреть, как люди будут использовать эти технологии в реальном мире».