На прошлой неделе 116 предпринимателей, включая Илона Маска, написали в ООН открытое письмо, в котором предупредили человечество о гипотетических катастрофических последствиях распространения автономного вооружения и предложили его запретить. Однако колумнист Wired Том Саймонит считает, что возможный запрет непрактичен и никому не принесет пользы.
По мнению Саймонита, чисто технически запретить военных роботов можно точно так же, как например, химическое или бактериологическое оружие. Однако в отличие от этих видов вооружения, ИИ-системы более разнообразны. Грань между управляемыми и полностью автономными видами оружия размыта — и этим пользуются многие страны. И будут пользоваться еще больше, потому что автономное вооружение обещает армиям такие преимущества, от которых сложно отказаться, например, полностью нивелировать человеческий фактор.
Так, недавний отчет, посвященный искусственному интеллекту, подготовленный Управлением национальной разведки США, рассказывает о том, что использование ИИ позволит значительно увеличить военную мощь страны. Таким образом, Грег Аллен, соавтор отчета, заключает, что нет никаких оснований полагать, что в ближайшем будущем США или другие страны решат отказаться от систем автономного вооружения.
«Полностью запретить автономное вооружение невозможно, — утверждает эксперт. — Уж слишком велико искушение».
Кроме этого, пресс-секректарь Пентагона Роджер Кабинесс заявил, что в ведомстве считают запрет абсолютно бессмысленным. По их мнению, использование ИИ, напротив, позволит вооруженным силам лучше исполнять этические и юридические обязательства.
«При помощи высокоточных ИИ-систем мы можем снизить риск жертв среди гражданского населения», — заявил Кабинесс.
При этом в Минобороны США обещают применять автономные системы только под контролем человека. Власти других стран также отмечают, что в новых законах по ограничению автономного вооружения нет необходимости. Так, правительство Британии считает, что хватает и действующего международного права.
С этим согласна и Ребекка Крутоф из Йельской школы права, предложившая найти в этом вопросе компромисс. По ее мнению, вместо борьбы за полный запрет «роботов-убийц» активистам следует сделать упор на разработку норм регулирования.
«Чем бороться за запрет подобных систем, лучше потратить время и энергию на разработку регулятивных актов», — утверждает юрист.
Крутоф предлагает дополнить Женевскую конвенцию и включить в нее наравне с запрещенными действиями со стороны военных непозволительные приемы со стороны роботов и автономной техники. Также, по ее мнению, следует определить, кто несет ответственность, если в результате сбоя ПО пострадают мирные жители.
Источники: wired, hightech.fm