Блоги
Бельгийским ученым удалось обмануть алгоритм камеры видеонаблюдения при помощи картинки в руках

Бельгийским ученым удалось обмануть алгоритм камеры видеонаблюдения при помощи картинки в руках

Бельгийским ученым удалось обмануть алгоритм камеры видеонаблюдения при помощи картинки в руках


Нейросетевые алгоритмы обнаружения человека в кадре, применяемые в системах видеонаблюдения, можно обмануть с помощью картонного листа с распечатанным состязательным изображением, показали бельгийские исследователи из Левенского католического университета. Посвященная разработке статья будет представлена на конференции CV-COPS 2019.

Как сообщается, в своей работе авторы использовали популярный алгоритм YOLOv2, основанный на сверточной нейросети. Как известно, в ответ на входное изображение он выдает кадр, на котором обнаруженные объекты обведены прямоугольником, а также указывает уровень уверенности в классификации каждого объекта.

В основе метода по обману нейросети, в свою очередь, лежат состязательные изображения, созданные разработанным исследователями алгоритмом.

Процесс создания таких изображений устроен следующим образом. Сначала алгоритму YOLOv2 дают серию изображений с людьми и он выделяет на них соответствующие области. Затем алгоритм исследователей накладывает на эти области произвольное изображение («патч») и результат снова отдается YOLOv2 для обнаружения людей. После этого новоявленная нейросеть произвольным образом вносит изменения в патч и вновь «скармливает» результат YOLOv2. Далее алгоритм замеряет изменения в вероятности для каждого обнаруженного объекта и повторяет процедуру — процесс длится до тех пор, пока YOLOv2 после очередных изменений в патче не перестает «видеть» на изображении людей.

В результате ученые получают универсальные изображения, которые позволяют обманывать алгоритмы обнаружения объектов, занижая вероятность того, что система увидит в объекте человека.

Для оценки работы решения авторы провели несколько экспериментов, часть из которых можно увидеть на видео ниже: в частности, они наглядно показали, как изображение на картонке размером 40х40 см позволяет спрятать испытуемого от алгоритма обнаружения, хотя для людей очевидно, что перед ними все еще находится человек.

В будущем исследователи намерены коммерциализировать технологию, выпустив футболки с состязательными принтами, которые будут мешать системам видеонаблюдения отслеживать перемещения владельцев.

Источник: N+1


Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: