Израильские военные использовали искусственный интеллект для помощи в выборе целей бомбардировки в Газе. Это, потенциально, могло привести к ухудшению точности ударов и убийству многих мирных жителей. Об этом говорится в публикациях +972 Magazine и Local Call.
Система под названием Lavender была разработана после терактов ХАМАС 7 октября. На пике своего развития Lavender обозначила 37 тыс. палестинцев в Газе как подозреваемых «боевиков ХАМАС» и «санкционировала» их убийства.
Вооруженные силы Израиля опровергли существование такого списка убийств. Представитель сообщил, что искусственный интеллект не использовался для идентификации подозреваемых террористов, но не отрицал существование системы Lavender, которую представитель назвал «просто инструментами для аналитиков в процессе идентификации целей». Аналитики «должны провести независимые экспертизы, во время которых они проверят, что идентифицированные цели соответствуют соответствующим определениям согласно международному праву и дополнительным ограничениям, предусмотренным в директивах IDF», — сказал представитель.
Тем не менее офицеры израильской разведки рассказали в интервью изданиям +972 и Local Call, что они не были обязаны проводить независимые проверки целей Lavender перед их бомбардировкой, а вместо этого фактически служили «резиновым штампом» для «решений машины». В некоторых случаях единственной ролью офицеров в процессе было определение того, является ли цель мужчиной.
Чтобы создать систему Lavender, в набор данных была введена информация об известных оперативниках ХАМАСа и Палестинского исламского джихада. Кроме того, для тренировки Lavender также использовались данные о людях, тесно связанных с ХАМАС, таких как сотрудники Министерства внутренней безопасности Газы.
Lavender научили определять «особенности», связанные с оперативниками ХАМАС, в частности пребывание в группе WhatsApp с известным боевиком, смену мобильного телефона каждые несколько месяцев или частую смену адреса. Затем эти данные были использованы для оценки других палестинцев в Газе по шкале от 1 до 100 на основе того, насколько они похожи на известных боевиков ХАМАС в первоначальном наборе данных. Людей, которые достигли определенного порога, затем обозначали как цели для ударов. Этот порог постоянно менялся, «поскольку это зависит от того, где вы устанавливаете планку того, кто является оперативником ХАМАС», — сообщил один военный источник.
По словам источников, система имела уровень точности 90%. Некоторые из людей, которых Lavender обозначила как мишени, имели имена или прозвища, идентичные именам и прозвищам известных боевиков ХАМАС. Другие были родственниками оперативников ХАМАС или людьми, которые пользовались телефонами, которые когда-то принадлежали боевикам ХАМАС.
По словам осведомленных источников, офицерам разведки предоставляли широкие полномочия, когда речь шла о жертвах среди гражданского населения. При этом допускались возможные сопутствующие жертвы среди гражданских: 15-20 человек при нацеливании на оперативников ХАМАС низшего уровня и «сотни» ─ для высших должностных лиц ХАМАС.
Подозреваемые боевики ХАМАС также становились мишенями в их домах, что определяла система Where’s Daddy?. По словам офицеров, эта система ставила цели, определенные Lavender, под постоянное наблюдение. Их отслеживали, пока они не достигли своих домов, и тогда по ним наносили бомбовый удар, часто вместе со всеми их семьями. Однако иногда офицеры бомбили дома, не проверяя, есть ли цели внутри, уничтожая при этом мирных жителей.
Дополнительно сообщается, что система Lavender является расширением использования Израилем технологий слежения за палестинцами как в Секторе Газа, так и на Западном берегу.
Источник: The Verge