«Свитер-невидимка»: ученые разработали одежду, которая поможет спрятаться от ИИ-систем распознавания

Группа исследователей из Мэрилендского университета в Колледж-Парке, работающая с искусственным интеллектом Facebook, разработала «свитер-невидимку», который может скрыть человека от систем обнаружения.

Изначально команда сосредоточилась на моделировании атак: создании «состязательного шаблона» Состязательная атака (adversarial attack) - способ обмануть нейросеть, чтобы она выдала некорректный результат, который можно было бы применить к обнаруженным объектам на изображении, а нейросеть не смогла бы их распознать. Исследователи попытались создать универсальный противоборствующий патч — единый шаблон, который можно применить на любом объекте и скрыть его от системы ИИ.

Предыдущие попытки состязательных атак на нейросети преимущественно были сосредоточены на классификаторах (присваивают целостную метку всему изображению), но на этот раз исследователи взялись за детекторы (локализуют объекты на изображении).

«Детекторы работают, рассматривая тысячи предыдущих изображений с разными местоположениями, размерами и соотношениями сторон объекта. Чтобы обмануть детектор объектов, состязательный шаблон должен изменить и все предыдущие изображения, что намного сложнее, чем обмануть единственный вывод классификатора», — говорится в исследовании.

Исследователи доказали, что сложнее — не значит невозможно. В рамках широкого исследования состязательных атак на детекторы команде удалось создать необходимый патч. Команда напечатала 10 шаблонов на плакатах и ​​разместила их в 15 местах — все они снизили производительность детекторов в изображениях.

А затем, тестируя концепцию, подобную игре в «бумажных кукол» (детская игра, в которой куклу из картона можно было одевать в разные наряды), команда использовала одежду и выявила, что «свитер-невидимка» значительно эффективнее ухудшает работу детекторов.

«Этот стильный свитер — отличный способ согреться этой зимой. Он оснащен непромокаемой подкладкой из микрофлиса, имеет современный крой и противоборствующие ИИ узоры — которые помогут скрыться от детекторов объектов. В нашей демонстрации детектор YOLOv2YOLO v2 - это современный детектор с высоким разрешением 78,6 мАП на VOC 2007, который работает на скорости выше реального времени. удалось обмануть с помощью шаблона, обученного на наборе данных COCOCOCO (англ. Common Objects in Context) — большой набор изображений. Состоит из более чем 330000 изображений (220000 — размеченных), с более чем 1,5 милионов объектов на них с тщательно сконструированной целью», — отмечает команда исследователей.

Источник: Hackster