Американская компания Raytheon по заказу Управления перспективных оборонных разработок (DARPA) Министерства обороны США приступила к созданию первой в своем роде нейронной сети, которая будет способна объяснить военным, почему автономный боевой робот принял то или иное решение.
Как сообщается, проект получил обозначение XAI (Explainable Artificial Intelligence, «Объяснимый искусственный интеллект»). В его рамках предполагается разработка нейросети, которая не будет уступать по быстродействию обычной, но при этом сможет продемонстрировать всю логическую цепочку, как и почему управляемый искусственным интеллектом боевой робот принял то или иное решение. Объяснять свои действия нейронная сеть будет при помощи графического интерфейса.
Отметим, что XAI разрабатывается с прицелом на использование в масштабных проектах Министерства обороны США по созданию смешанных боевых подразделений из людей и роботов. Сейчас это может показаться фантастикой, но Пентагон уверен, что совсем скоро боевые роботы придут на помощь военным американской армии и даже будут способны самостоятельно принимать решения в рамках выполнения поставленных задач — например, открывать огонь по противнику.
В DARPA полагают, что для эффективного взаимодействия солдат и роботов в бою важно, чтобы люди доверяли своим электронным напарникам. При этом уровень доверия существенно повысится, если роботы смогут объяснять людям, почему они принимают то или иное решение.
Интересно, что, по мнению разработчиков системы, способные объяснить свое решение нейронные сети будут полезны не только в военном деле.
«XAI-подобные системы найдут применение не только в военных операциях, но и в ряде других случаев: в системах безопасности, промышленности и в медицине, — заявили в Raytheon. — Например, на рентгеновском снимке легкого нейросеть обнаружила признаки рака. Доктор спросит, на основании чего ИИ пришел к такому выводу, и система подсветит подозрительные тени. Тогда врач решит, что делать дальше — провести более углубленную диагностику или, скажем, списать все на артефакты рентгенографии»
Напоследок отметим, что проект XAI на данный момент находится на самой ранней стадии разработки.
- Ранее мы писали, что правозащитники Amnesty International выступили против «роботов-убийц».