Коли наприкінці 2022 року OpenAI запустив ChatGPT, викладачі висловили занепокоєння, що учні використовуватимуть платформу для нечесного виконання завдань і тестів. Щоб запобігти цьому, численні компанії розгорнули інструменти виявлення контенту, створеного штучним інтелектом, але вони забезпечують надійні результати.
Тепер OpenAI заявила, що розробила метод визначення використання ChatGPT для написання контенту. Стверджується, що технологія ефективна на 99,9% і, по суті, використовує систему, здатну передбачити, яке слово чи фраза (називається «токен») буде наступним у реченні. Інструмент виявлення ШІ дещо змінює токени, які залишають водяний знак. Цей водяний знак неможливо розпізнати людським оком, але його можна розпізнати відповідним інструментом.
Ця технологія була готова до розгортання ще приблизно рік тому, але компанія ще не зробила цього, оскільки всередині цей проєкт зустріли неоднозначною реакцією. З одного боку, запуск цього інструменту може відштовхнути частину бази користувачів ChatGPT. Водночас запровадження інструменту означатиме, що компанія дотримується свого зобов’язання щодо забезпечення прозорості.
Разом з тим представник OpenAI повідомив про занепокоєння тим, що інструмент може «непропорційно вплинути на групи, для яких англійська мова не є рідною». Тим не менш, ключові співробітники OpenAI, які підтримують запуск інструменту, вважають, що технологія може принести багато користі, і тому її не слід відкладати.
Джерело: androidauthority