Министерство обороны США сформулировало этические принципы, которыми американские военные отныне должны будут руководствоваться при разработке и использовании ИИ-систем

Министерство обороны США сформулировало и приняло к исполнению этические принципы, в соответствии с которыми в стране отныне будут разрабатываться и применяться военные системы искусственного интеллекта. Согласно сообщению Пентагона, в общей сложности на консультации с экспертами в сфере ИИ и научными организациями, а также формулирование свода этических правил министерство потратило 15 месяцев.

По словам американских военных, принятие этических принципов подчеркивает стремление Армии США к этичному и законному использованию систем искусственного интеллекта.

«Соединенные Штаты вместе с нашими союзниками и партнерами должны ускорить принятие на вооружение ИИ-систем и их широкое внедрение в сферу национальной безопасности, чтобы сохранять стратегическое преимущество, одерживать победы на будущих полях сражений и защищать основанный на четких правилах международный порядок.

Технология искусственного интеллекта окажет огромное влияние на ведение войн в будущем — однако ничто не изменит твердую приверженность Америки ответственному и законному поведению [в военной сфере]. Принятие этических принципов использования искусственного интеллекта демонстрирует историческое стремление Пентагона соблюдать высочайшие этические стандарты и использовать лишь проверенные и испытанные технологические инновации», — заявил в пресс-релизе Министр обороны США Марк Эспер.

При формулировании свода этических правил использования ИИ-систем американские военные руководствовались Конституцией США, десятой главой Кодекса США (описывает роль вооруженных сил), законами и обычаями войны, а также международными договорами и «устоявшимися нормами и ценностями».

«В то время как существующие правила, [принятые задолго до начала развития технологий автономного вооружения], обеспечивают технологически нейтральную основу для этичного поведения [вооруженных сил], использование ИИ порождает новые этические неясности и риски. Сформулированный нами свод этических принципов направлен на преодоление этих вызовов и призван обеспечить ответственное использование ИИ-систем американскими военными как в боевых, так и в небоевых условиях», — говорится в заявлении Министерства обороны США.

В общей сложности Пентагон сформулировал пять этических принципов использования систем искусственного интеллекта в военных целях:

• Ответственность. Военный персонал должен с надлежащим вниманием оценивать действия искусственного интеллекта, оставаясь полностью ответственным за разработку, развертывание и использование ИИ-систем.
• Беспристрастность. Министерство обороны США должно предпринимать шаги для минимизации нежелательных отклонений в возможностях систем искусственного интеллекта.
• Прослеживаемость. Военные системы искусственного интеллекта и их возможности должны разрабатываться и развертываться таким образом, чтобы персонал имел должный уровень понимания технологии, процессов ее разработки и методов ее применения. Кроме того, для военного персонала должны быть доступны методологии, данные и документация, относящиеся к используемым системам искусственного интеллекта.
• Надежность. Возможности военных систем искусственного интеллекта должны быть однозначными, четко сформулированными. Безопасность и эффективность таких возможностей должны проверяться испытаниями и подтверждаться на протяжении всего срока службы.
• Подчинение. Военные системы искусственного интеллекта должны полностью исполнять предназначенные для них задачи, при этом армейцы должны иметь инструменты, позволяющие обнаруживать и предотвращать нежелательные последствия использования искусственного интеллекта, а также выводить из боя или выключать системы искусственного интеллекта, у которых были замечены отклонения в работе.

«Принятие принципов этического использование ИИ демонстрирует миру приверженность США этическим стандартам и служит примером для других демократических режимов в плане ответственного принятия на вооружение передовых технологий», — прокомментировал принятие свода этических правил разработки и применения военных ИИ-систем председатель Совета по оборонным инновациям при Министерстве обороны США Эрик Шмидт.

Напоследок отметим, что ответственным за исполнение этических принципов использования военных систем искусственного интеллекта Пентагон назначил Объединенный центр искусственного интеллекта, сотрудники которого отныне должны будут контролировать соблюдение этих правил при тестировании, развертывании и масштабировании всех военных ИИ-систем в интересах Армии США.

Источник: N+1