Microsoft вводит некоторые ограничения на разговоры для ИИ Bing. Чаты Bing теперь будут ограничены 50 вопросами в день и пятью за сеанс после того, как поисковая система была замечена в оскорблении пользователей, предоставлении неправдивой информации и эмоциональном манипулировании. Перед этим искусственный интеллект поисковика несколько раз оказывался недоступным. Если пользователи превысят лимит в пять сообщений, Bing предложит создать новую тему, чтобы избежать длительных сеансов.
«Наши данные показали, что подавляющее большинство людей находят ответы, которые они ищут, в течение 5 ходов, и что только около 1% разговоров в чате содержат более 50 сообщений», — говорится в блоге Bing.
Microsoft предупредила, что более длительные сеансы чата с 15 или более вопросами могут привести к тому, что Bing станет повторяться или будет генерировать ответы, которые не обязательно полезны или соответствуют корректному тону.
Ранее появились сообщения о «неуравновешенных» разговорах Bing, также The New York Times опубликовала два с лишним часа переписки с Bing, где чат-бот говорил о том, что любит автора, почему-то не может спать ночью и выдавал другие столь же осмысленные «откровения».
Microsoft все еще работает над улучшением тона Bing, характер вводимых ограничений модели не известен и не является окончательным. Что касается сеансов пользователь, в ближайшем будущем возможны новые ограничения или их изменения.
Компания продолжает работать над улучшением ИИ-чата Bing, практически ежедневно внося мелкие изменения и выпуская более крупные патчи раз в неделю. Интересным является заявление Microsoft о том, что в компании «не полностью представляют» людей, использующих интерфейс чата для «социальных развлечений» или в качестве инструмента для более «общего открытия мира» – достаточно наивно полагать, что люди будут ограничивать своё общение с чат-ботами какими-то простыми шаблонами.
Источник: The Verge