OpenAI, компанія, що створила DALL-E та ChatGPT, представила новий класифікатор, який допоможе розрізнити людський текст від тексту, написаного штучним інтелектом.
Модель навчалась на парах текстів однієї теми, які писала людина та ШІ. У пресрелізі попереджають, що класифікатор “не повністю надійний” і не має використовуватись як “основний інструмент прийняття рішень”.
Технологія проста, і для її використання необхідно лише мати безкоштовний обліковий запис OpenAI. Текст, який підлягає перевірці, необхідно помістити у поле та натиснути спеціальну кнопку. Інструмент проаналізує його і видасть свій вердикт: текст — дуже малоймовірно, малоймовірно, незрозуміло, можливо чи ймовірно створений ШІ.
OpenAI також надає кілька попереджень, на які варто звернути увагу перед використанням інструменту:
Застереження здаються виправданими — журналіст The Verge протестував інструмент на власних текстах і той позначив їх як “дуже малоймовірно створені ШІ”. Не досить точний результат (“малоймовірно створені ШІ”) дає класифікатор при спробі перевірити статті CNET Money — видання стверджує, що ці статті були “написані за допомогою ШІ та відредаговані людиною” (нещодавно CNET додав нові виправлення до більш ніж половини з них).
CNET не уточнює, який ШІ-інструмент використовує для написання статей, однак журналісти схиляються до думки, що це Wordsmith. OpenAI каже, що їхній інструмент призначений не тільки для GPT, і може виявляти “текст, написаний штучним інтелектом від різних постачальників”.
Разом з тим кілька прикладів відповідей ChatGPT інструмент позначив як “можливо” або “ймовірно” створені ШІ. За даними OpenAI під час тестування інструмент позначав текст, створений штучним інтелектом як “імовірно написаний ШІ” у 26% випадків, і помилково позначав людський текст, як текст ШІ у 9%.
OpenAI не перша компанія, яка створила класифікатор тексту. Після того, як ChatGPT “завірусився”, студент Едвард Тіан представив сайт зі схожими можливостями під назвою GPTZero.
Власник ChatGPT зосередився на створенні класифікатора у першу чергу через побоювання викладачів, оскільки чимало освітніх закладів заборонили використання чатбота через те, що не можуть розрізнити роботи ШІ від творів, написаних учнями. OpenAI каже, що “взаємодіє з педагогами в США”, звертаючи увагу на їхні відгуки щодо ChatGPT.
Джерело: The Verge