Когда в конце 2022 года OpenAI запустил ChatGPT, преподаватели выразили обеспокоенность, что ученики будут использовать платформу для нечестного выполнения заданий и тестов. Чтобы предотвратить это, многочисленные компании развернули инструменты обнаружения контента, созданного искусственным интеллектом, но они обеспечивают надежные результаты.
Теперь OpenAI заявила, что разработала метод определения использования ChatGPT для написания контента. Утверждается, что технология эффективна на 99,9% и, по сути, использует систему, способную предсказать, какое слово или фраза (называется «токен») будет следующим в предложении. Инструмент обнаружения ИИ несколько изменяет токены, которые оставляют водяной знак. Этот водяной знак невозможно распознать человеческим глазом, но его можно распознать соответствующим инструментом.
Эта технология была готова к развертыванию еще примерно год назад, но компания еще не сделала этого, поскольку внутри этот проект встретили неоднозначной реакцией. С одной стороны, запуск этого инструмента может оттолкнуть часть базы пользователей ChatGPT. В то же время введение инструмента будет означать, что компания придерживается своего обязательства по обеспечению прозрачности.
Вместе с тем представитель OpenAI сообщил об обеспокоенности тем, что инструмент может «непропорционально повлиять на группы, для которых английский язык не является родным». Тем не менее ключевые сотрудники OpenAI, которые поддерживают запуск инструмента, считают, что технология может принести много пользы, и поэтому ее не следует откладывать.
Источник: androidauthority