По информации Bloomberg, сегодня представители ведущих американских компаний, занимающиеся искусственным интеллектом, публично дадут Белому дому обязательства по безопасности их технологий.
Ожидается, что Microsoft, Google, OpenAI и другие возьмут на себя обязательство ответственно разрабатывать и внедрять ИИ. Хотя обязательства носят добровольный характер, они стали результатом усилий администрации президента Байдена и Конгресса. Парламент США потратил месяцы на проведение слушаний по вопросу, вызвавшего среди конгрессменов значительные разногласия. Обязательства компаний истекут, когда Конгресс примет закон, регулирующий ИИ.
Разработчики технологии ИИ и ранее предупреждали о рисках ее использования. Администрация Байдена со своей стороны предлагала руководящие принципы разработки ИИ, в том числе «Структуру управления рисками» от Национального института стандартов и технологий, которая возникла в результате многомесячного взаимодействия с лидерами отрасли и экспертами.
В документе, который предположительно будет опубликован сегодня, Белый дом предложит восемь обязательств, ориентированных на безопасность и социальную ответственность. Они включают:
- Разрешение попыток независимых экспертов подталкивать модели к плохому поведению (процесс, известный как «красная команда»)
- Обмен информацией о доверии и безопасности с государственными органами и другими компаниями
- Использование водяных знаков на аудио- и визуальном контенте для идентификации контента, созданного ИИ
- Инвестиции в средства кибербезопасности
- Поощрение третьих лиц к раскрытию уязвимостей безопасности
- Информирование о социальных рисках ИИ, таких как ненадлежащее использование и предвзятость
- Приоритет исследований социальных рисков ИИ
- Использование передовых систем искусственного интеллекта, известных как пограничные модели, для решения самых серьезных проблем общества
Пока усилия правительств и компаний заметно отстают от темпов развития ИИ, вызванного острой конкуренцией между корпорациями и опасениями, что китайские технологии в сфере ИИ могут обогнать западные достижения.
Источник: Bloomberg
