Классификатор ИИ от OpenAI приостановил работу с 20 июля, сообщает компания в блоге.
«Мы изучаем отзывы и исследуем более эффективные методы классификации текста», — заявили в OpenAI.
OpenAI признала, что классификатор с самого начала работал не слишком эффективно и часто выдавал ошибочные ответы, обозначая текст человека, как написанный генеративным ИИ. В компании думают, что большее количество данных для обучения сможет исправить эту проблему в будущем.
В то же время разработчик ChatGPT сосредоточится и на механизмах, позволяющих классифицировать аудио- или визуальный контент — как созданный ИИ или человеком.
Вирусный чат-бот от OpenAI дебютировал осенью 2022 года, активизировав ИИ отрасль и приблизив современную технологию к широким массам. Несколько секторов подняли тревогу по поводу созданных ИИ текстов и изображений — преподаватели в частности волновались, что студенты больше не будут учиться и просто позволят ChatGPT писать за них домашние задания. Позже школы Нью-Йорка даже запретили использование чат-бота.
Другая проблема – способность подобных чат-ботов предоставлять ложную информацию как факт (чат-бот Google Bard, к примеру, отметился этим уже в рекламном ролике). Правительства пока не придумали как контролировать генеративный ИИ и прибегли лишь к некоторым ограничениям в его использовании, да и сами компании-разработчики, кажется, тоже не знают, как обуздать эту технологию и заставить работать должным образом.