Microsoft вводить деякі обмеження на розмови для ШІ Bing. Чати Bing тепер будуть обмежені 50 питаннями на день та п’ятьма за сеанс після того, як пошукова система була помічена в образі користувачів, наданні неправдивої інформації та емоційному маніпулюванні. Перед цим штучний інтелект пошуковика кілька разів виявлявся недоступним. Якщо користувачі перевищать ліміт п’ять повідомлень, Bing запропонує створити нову тему, щоб уникнути тривалих сеансів.
«Наші дані показали, що переважна більшість людей знаходять відповіді, які вони шукають, протягом 5 ходів, і що тільки близько 1% розмов у чаті містять понад 50 повідомлень», – йдеться у блозі Bing.
Microsoft попередила, що більш тривалі сеанси чату з 15 або більше питаннями можуть призвести до того, що Bing повторюватиметься або генеруватиме відповіді, які не обов’язково корисні або відповідають коректному тону.
Раніше з’явилися повідомлення про «неврівноважені» розмови Bing. Також The New York Times опублікувала дві з лишком години листування з Bing, де чат-бот говорив про те, що любить автора, чомусь не може спати вночі та видавав інші настільки ж осмислені «одкровення».
Microsoft все ще працює над поліпшенням тону Bing, характер обмежень моделі не відомий та не є остаточним. Що стосується сеансів користувач, у найближчому майбутньому можливі нові обмеження або зміни.
Компанія продовжує працювати над покращенням ШІ-чату Bing, практично щодня вносячи дрібні зміни та випускаючи більші патчі раз на тиждень. Цікавою є заява Microsoft про те, що в компанії «не повністю представляють» людей, які використовують інтерфейс чату для «соціальних розваг» або як інструмент для більш «загального відкриття світу» – досить наївно вважати, що люди обмежуватимуть своє спілкування з чатботами якимись простими шаблонами.
ШІ Microsoft Bing також припускався прикрих помилок під час демонстрації та активного використання
Джерело: The Verge