Нейросетевые алгоритмы обнаружения человека в кадре, применяемые в системах видеонаблюдения, можно обмануть с помощью картонного листа с распечатанным состязательным изображением, показали бельгийские исследователи из Левенского католического университета. Посвященная разработке статья будет представлена на конференции CV-COPS 2019.
Как сообщается, в своей работе авторы использовали популярный алгоритм YOLOv2, основанный на сверточной нейросети. Как известно, в ответ на входное изображение он выдает кадр, на котором обнаруженные объекты обведены прямоугольником, а также указывает уровень уверенности в классификации каждого объекта.
В основе метода по обману нейросети, в свою очередь, лежат состязательные изображения, созданные разработанным исследователями алгоритмом.
Процесс создания таких изображений устроен следующим образом. Сначала алгоритму YOLOv2 дают серию изображений с людьми и он выделяет на них соответствующие области. Затем алгоритм исследователей накладывает на эти области произвольное изображение («патч») и результат снова отдается YOLOv2 для обнаружения людей. После этого новоявленная нейросеть произвольным образом вносит изменения в патч и вновь «скармливает» результат YOLOv2. Далее алгоритм замеряет изменения в вероятности для каждого обнаруженного объекта и повторяет процедуру — процесс длится до тех пор, пока YOLOv2 после очередных изменений в патче не перестает «видеть» на изображении людей.
В результате ученые получают универсальные изображения, которые позволяют обманывать алгоритмы обнаружения объектов, занижая вероятность того, что система увидит в объекте человека.
Для оценки работы решения авторы провели несколько экспериментов, часть из которых можно увидеть на видео ниже: в частности, они наглядно показали, как изображение на картонке размером 40х40 см позволяет спрятать испытуемого от алгоритма обнаружения, хотя для людей очевидно, что перед ними все еще находится человек.
В будущем исследователи намерены коммерциализировать технологию, выпустив футболки с состязательными принтами, которые будут мешать системам видеонаблюдения отслеживать перемещения владельцев.
Источник: N+1