Microsoft, Google, OpenAI и другие компании подпишут с Белым домом соглашение о принципах разработки ИИ

По информации Bloomberg, сегодня представители ведущих американских компаний, занимающиеся искусственным интеллектом, публично дадут Белому дому обязательства по безопасности их технологий.

Ожидается, что Microsoft, Google, OpenAI и другие возьмут на себя обязательство ответственно разрабатывать и внедрять ИИ. Хотя обязательства носят добровольный характер, они стали результатом усилий администрации президента Байдена и Конгресса. Парламент США потратил месяцы на проведение слушаний по вопросу, вызвавшего среди конгрессменов значительные разногласия. Обязательства компаний истекут, когда Конгресс примет закон, регулирующий ИИ.

Разработчики технологии ИИ и ранее предупреждали о рисках ее использования. Администрация Байдена со своей стороны предлагала руководящие принципы разработки ИИ, в том числе «Структуру управления рисками» от Национального института стандартов и технологий, которая возникла в результате многомесячного взаимодействия с лидерами отрасли и экспертами.

В документе, который предположительно будет опубликован сегодня, Белый дом предложит восемь обязательств, ориентированных на безопасность и социальную ответственность. Они включают:

• Разрешение попыток независимых экспертов подталкивать модели к плохому поведению (процесс, известный как «красная команда»)
• Обмен информацией о доверии и безопасности с государственными органами и другими компаниями
• Использование водяных знаков на аудио- и визуальном контенте для идентификации контента, созданного ИИ
• Инвестиции в средства кибербезопасности
• Поощрение третьих лиц к раскрытию уязвимостей безопасности
• Информирование о социальных рисках ИИ, таких как ненадлежащее использование и предвзятость
• Приоритет исследований социальных рисков ИИ
• Использование передовых систем искусственного интеллекта, известных как пограничные модели, для решения самых серьезных проблем общества

Пока усилия правительств и компаний заметно отстают от темпов развития ИИ, вызванного острой конкуренцией между корпорациями и опасениями, что китайские технологии в сфере ИИ могут обогнать западные достижения.

Источник: Bloomberg