OpenAI, компания, создавшая DALL-E и ChatGPT, представила новый классификатор, который поможет отличить человеческий текст от текста, написанного искусственным интеллектом.
Модель училась на парах текстов одной темы, которые писал человек и ИИ. В пресс-релизе предупреждают, что классификатор «не полностью надежен» и не должен использоваться как «основной инструмент принятия решений».
Технология проста, и для ее использования необходима бесплатная учетная запись OpenAI. Текст, подлежащий проверке, следует поместить в поле и нажать специальную кнопку. Инструмент проанализирует его и выдаст свой вердикт: текст очень маловероятно, маловероятно, непонятно, возможно или вероятно создан ИИ.
OpenAI также предоставляет несколько предупреждений, на которые следует обратить внимание перед использованием инструмента:
Предостережения кажутся оправданными — журналист The Verge протестировал инструмент на собственных текстах и тот обозначил их как «очень маловероятно созданные ИИ». Не достаточно точный результат («маловероятно созданные ИИ») дает классификатор при попытке проверить статьи CNET Money — издание утверждает, что эти статьи были «написаны с помощью ИИ и отредактированы человеком» (недавно CNET добавил новые поправки в более чем половину из них).
CNET не уточняет, какой ИИ-инструмент использует для написания статей, однако журналисты склоняются к мнению, что это Wordsmith. OpenAI говорит, что их инструмент предназначен не только для GPT, и может обнаруживать «текст, написанный искусственным интеллектом от разных поставщиков».
Вместе с тем несколько примеров ответов ChatGPT инструмент обозначил как «возможно» или «вероятно» созданные ИИ. По данным OpenAI, во время тестирования инструмент обозначал текст, созданный искусственным интеллектом как «вероятно написанный ИИ» в 26% случаев, и ошибочно обозначал человеческий текст, как текст ИИ в 9%.
OpenAI не первая компания, создавшая классификатор текста. После того как ChatGPT «завирусился», студент Эдвард Тиан представил сайт с похожими возможностями под названием GPTZero.
Владелец ChatGPT сосредоточился на создании классификатора в первую очередь из-за опасений преподавателей, поскольку многие образовательные учреждения запретили использование чат-бота из-за того, что не могут различать работы ИИ от текстов, написанных учениками. OpenAI говорит, что «взаимодействует с педагогами в США», обращая внимание на их отзывы о ChatGPT.
Источник: The Verge