Microsoft, Google, OpenAI и другие компании подпишут с Белым домом соглашение о принципах разработки ИИ

Опубликовал
Андрей Русанов

По информации Bloomberg, сегодня представители ведущих американских компаний, занимающиеся искусственным интеллектом, публично дадут Белому дому обязательства по безопасности их технологий.

Ожидается, что Microsoft, Google, OpenAI и другие возьмут на себя обязательство ответственно разрабатывать и внедрять ИИ. Хотя обязательства носят добровольный характер, они стали результатом усилий администрации президента Байдена и Конгресса. Парламент США потратил месяцы на проведение слушаний по вопросу, вызвавшего среди конгрессменов значительные разногласия. Обязательства компаний истекут, когда Конгресс примет закон, регулирующий ИИ.

Разработчики технологии ИИ и ранее предупреждали о рисках ее использования. Администрация Байдена со своей стороны предлагала руководящие принципы разработки ИИ, в том числе «Структуру управления рисками» от Национального института стандартов и технологий, которая возникла в результате многомесячного взаимодействия с лидерами отрасли и экспертами.

В документе, который предположительно будет опубликован сегодня, Белый дом предложит восемь обязательств, ориентированных на безопасность и социальную ответственность. Они включают:

  • Разрешение попыток независимых экспертов подталкивать модели к плохому поведению (процесс, известный как «красная команда»)
  • Обмен информацией о доверии и безопасности с государственными органами и другими компаниями
  • Использование водяных знаков на аудио- и визуальном контенте для идентификации контента, созданного ИИ
  • Инвестиции в средства кибербезопасности
  • Поощрение третьих лиц к раскрытию уязвимостей безопасности
  • Информирование о социальных рисках ИИ, таких как ненадлежащее использование и предвзятость
  • Приоритет исследований социальных рисков ИИ
  • Использование передовых систем искусственного интеллекта, известных как пограничные модели, для решения самых серьезных проблем общества

Пока усилия правительств и компаний заметно отстают от темпов развития ИИ, вызванного острой конкуренцией между корпорациями и опасениями, что китайские технологии в сфере ИИ могут обогнать западные достижения.

Источник: Bloomberg

Disqus Comments Loading...