OpenAI, компанія, що створила DALL-E та ChatGPT, представила новий класифікатор, який допоможе розрізнити людський текст від тексту, написаного штучним інтелектом.

Модель навчалась на парах текстів однієї теми, які писала людина та ШІ. У пресрелізі попереджають, що класифікатор “не повністю надійний” і не має використовуватись як “основний інструмент прийняття рішень”.

Технологія проста, і для її використання необхідно лише мати безкоштовний обліковий запис OpenAI. Текст, який підлягає перевірці, необхідно помістити у поле та натиснути спеціальну кнопку. Інструмент проаналізує його і видасть свій вердикт: текст — дуже малоймовірно, малоймовірно, незрозуміло, можливо чи ймовірно створений ШІ.

OpenAI також надає кілька попереджень, на які варто звернути увагу перед використанням інструменту: 

• текст має містити мінімум 1000 символів, або приблизно 150-250 слів;
• класифікатор не завжди точний і може неправильно позначити текст, як написаний ШІ або людиною;
• текст, написаний ШІ, можна легко відредагувати аби він походив на людський і міг “обманути” класифікатор;
• класифікатор може видати помилковий результат, якщо користувач перевіряє текст не англійською мовою або написаний дитиною — оскільки інструмент навчався на англійському контенті, написаному дорослими.

Застереження здаються виправданими — журналіст The Verge протестував інструмент на власних текстах і той позначив їх як “дуже малоймовірно створені ШІ”. Не досить точний результат (“малоймовірно створені ШІ”) дає класифікатор при спробі перевірити статті CNET Money — видання стверджує, що ці статті були “написані за допомогою ШІ та відредаговані людиною” (нещодавно CNET додав нові виправлення до більш ніж половини з них). 

CNET не уточнює, який ШІ-інструмент використовує для написання статей, однак журналісти схиляються до думки, що це Wordsmith. OpenAI каже, що їхній інструмент призначений не тільки для GPT, і може виявляти “текст, написаний штучним інтелектом від різних постачальників”.

Разом з тим кілька прикладів відповідей ChatGPT інструмент позначив як “можливо” або “ймовірно” створені ШІ. За даними OpenAI під час тестування інструмент позначав текст, створений штучним інтелектом як “імовірно написаний ШІ” у 26% випадків, і помилково позначав людський текст, як текст ШІ у 9%. 

OpenAI не перша компанія, яка створила класифікатор тексту. Після того, як ChatGPT “завірусився”, студент Едвард Тіан представив сайт зі схожими можливостями під назвою GPTZero.

Власник ChatGPT зосередився на створенні класифікатора у першу чергу через побоювання викладачів, оскільки чимало освітніх закладів заборонили використання чатбота через те, що не можуть розрізнити роботи ШІ від творів, написаних учнями. OpenAI каже, що “взаємодіє з педагогами в США”, звертаючи увагу на їхні відгуки щодо ChatGPT.

Джерело: The Verge

Favbet Tech – це ІТ-компанія зі 100% украі‌нською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологіи‌ та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців.