В пятницу компания Meta проверит, сможет ли новая версия чат-бота с искусственным интеллектом Blenderbot справится с вызовами реальной среды общения. В этот день демо-версия Blenderbot 3 со 175 миллиардами параметров отправится покорять просторы публичного доступа.
Meta работает над проектом с тех пор, как впервые представила чат-приложение BlenderBot 1 в 2020 году. Первоначально не более чем эксперимент НЛП с открытым исходным кодом, к следующему году BlenderBot 2 научился запоминать информацию из предыдущих бесед и искать в интернете дополнительную информацию их по теме. BlenderBot 3 умеет оценивать не только данные из беседы или интернета, но и людей, с которыми общается. А вот запатентовать свои изобретения в США ИИ не сможет.
Когда пользователь регистрирует неудовлетворительный ответ системы (их в процессе обучения регистрируется около 0,16 процента) — Meta обрабатывает сигнал пользователя и заносит его в модель, чтобы избежать повторения ошибки. В системе также используется алгоритм Director, который сначала генерирует ответ, используя обучающие данные, а затем пропускает ответ через классификатор, чтобы проверить, соответствует ли он шкале правильных и неправильных ответов, определенной пользователем.
«Чтобы сгенерировать предложение, механизмы языкового моделирования и классификатора должны согласоваться», — написала команда. «Используя данные о хороших и плохих ответах, мы можем научить классификатор блокировать некачественные, токсичные, противоречивые, повторяющиеся или бесполезные утверждения». Система также использует отдельный алгоритм сравнения пользователей для обнаружения ненадежных или злонамеренных ответов собеседника, обучая систему не доверять тому, что говорит этот человек.
Ожидается, что BB3 будет говорить более естественно, чем его предшественник, отчасти благодаря значительно обновленной языковой модели OPT-175B, почти в 60 раз большей, чем модель BB2. «Мы обнаружили, что по сравнению с BlenderBot 2, третья версия обеспечивает улучшение общего рейтинга разговорных задач на 31%»— сказали в команде. Ожидается, что BlenderBot 3 будет давать ответы на 47% более верные, на 82% более актуальные и в 76% случаев более конкретные.
Основная проблема в обучении чат-ботов с ИИ — источники информации. Первоначально ботов тренируют в тщательно отобранной среде, чтобы максимально избежать нежелательного поведения. На этапе обучения ограничению подвергаются и возможные темы. Чат-бот, выпущенный в неограниченный интернет,менее предсказуем в своем развитии — в общении с людьми он может затрагивать нежелательные темы.
Помимо качества работы интеллектуального чат-бота, Meta могла бы повысить и качество модерации украинского сегмента Facebook. С такой просьбой к компании обратилось Министерство цифровой трансформации.
