Рубрики НовостиСофт

OpenAI закрывает инструмент для распознавания текста, написанного ИИ – из-за низкой точности

Опубликовал
Катерина Даньшина

Классификатор ИИ от OpenAI приостановил работу с 20 июля, сообщает компания в блоге.

«Мы изучаем отзывы и исследуем более эффективные методы классификации текста», — заявили в OpenAI.

OpenAI признала, что классификатор с самого начала работал не слишком эффективно и часто выдавал ошибочные ответы, обозначая текст человека, как написанный генеративным ИИ. В компании думают, что большее количество данных для обучения сможет исправить эту проблему в будущем.

В то же время разработчик ChatGPT сосредоточится и на механизмах, позволяющих классифицировать аудио- или визуальный контент — как созданный ИИ или человеком.

Вирусный чат-бот от OpenAI дебютировал осенью 2022 года, активизировав ИИ отрасль и приблизив современную технологию к широким массам. Несколько секторов подняли тревогу по поводу созданных ИИ текстов и изображений — преподаватели в частности волновались, что студенты больше не будут учиться и просто позволят ChatGPT писать за них домашние задания. Позже школы Нью-Йорка даже запретили использование чат-бота.

Онлайн-курс "Асинхронне програмування" від robot_dreams.
Опануйте підходи асинхронного програмування на Python для розробки швидких та ефективних програм.Вас навчатиме Lead Python Software Engineer у SoftServe.
Детальніше про курс

Другая проблема – способность подобных чат-ботов предоставлять ложную информацию как факт (чат-бот Google Bard, к примеру, отметился этим уже в рекламном ролике). Правительства пока не придумали как контролировать генеративный ИИ и прибегли лишь к некоторым ограничениям в его использовании, да и сами компании-разработчики, кажется, тоже не знают, как обуздать эту технологию и заставить работать должным образом.

Disqus Comments Loading...