В ныне удаленной статье о путешествиях в столицу Канады искусственный интеллект Microsoft призвал туристов посетить Продовольственный банк
Журналисты среагировали на статью, опубликовав критические отзывы, поэтому Microsoft быстро удалила нашумевший материал (его все еще можно посмотреть на архивной странице).
«Эта статья удалена. Мы выясняем, как она прошла наш процесс проверки», – сказал Джефф Джонс, старший директор Microsoft.
В 2020 году Microsoft уволила журналистов Microsoft News и MSN, чтобы заменить их искусственным интеллектом.
В каждом разделе статьи, которая была обозначена как «Microsoft Travel» и называлась «Собираетесь в Оттаву? Вот что вы не должны пропустить!», содержалось краткое текстовое описание того, чего можно ожидать от пункта назначения. Для продовольственного банка был добавлен достаточно циничный комментарий, если учитывать контекст этого места:
«У людей, которые приходят к нам, есть работа и семьи, которые им нужно поддерживать, а также оплачивать расходы. Жизнь и так достаточно сложна. Подумайте о том, чтобы прийти туда с пустым желудком».
Менеджер по коммуникациям Продовольственного банка Оттавы Саманта Козиара сказала, что это «не тот тип историй», которые хотела бы когда-нибудь увидеть их организация:
«Строка о «пустом желудке» явно не проверялась человеком-редактором. Раньше мы не видели ничего подобного, но поскольку искусственный интеллект становится все более популярным, не сомневаюсь, что количество подобных неточных/неподходящих статей будет расти. Это подчеркивает важность работы исследователей, писателей и редакторов…».
На странице программы Microsoft Start (персонализированная новостная лента для Windows 11) компания пишет, что ее алгоритмы анализируют сотни тысяч материалов, присланных партнерами:
«Мы обрабатываем их, чтобы понять такие параметры, как свежесть, категория, тип темы, содержание мыслей и потенциальная популярность и публикуем в соответствии с предпочтениями пользователей. Это сочетается с человеческой проверкой, чтобы гарантировать, что показываемый нами контент соответствует нашим ценностям и что важная информация занимает ведущее место в нашем опыте».
Конечно, это не первый пример того, как искусственный интеллект пытается испытать себя в журналистской профессии, что приносило неудовлетворительные результаты. В статье Gizmodo ИИ не смог правильно перечислить фильмы «Звездные войны» в хронологическом порядке, CNET также пришлось изменить десятки историй, чтобы исправить ошибки искусственного интеллекта. BuzzFeed, как и Microsoft, использовал ИИ для написания туристических путеводителей.
Источник: The Verge