Новини

“Светр-невидимка”: вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнавання

“Светр-невидимка”: вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнавання

Група дослідників з Мерилендського університету в Коледж-Парку, яка працює зі штучним інтелектом Facebook, розробила “светр-невидимку”, який може приховати людину від систем розпізнавання.

Спочатку команда зосередилася на моделюванні атак: створенні “змагального шаблону”"Светр-невидимка": вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнавання"Светр-невидимка": вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнаванняЗмагальна атака (adversarial attack) - спосіб обманути нейромережу, щоб вона видала некоректний результат, який можна було б застосувати до виявлених об’єктів на зображенні, а нейромережа не змогла б їх розпізнати. Дослідники спробували створити універсальний протиборчий патч – єдиний шаблон, який можна застосувати на будь-якому об’єкті та приховати його від системи ШІ.

"Свитер-невидимка": ученые разработали одежду, которая поможет спрятаться от ИИ-систем распознавания

Попередні спроби змагальних атак на нейромережі переважно були зосереджені на класифікаторах (надають цілісну мітку всьому зображенню), але цього разу дослідники взялися за детектори (локалізують об’єкти на зображенні).

Курс
WOMEN IN LEADERSHIP
Дізнайтеся, як утримувати work-life-баланс, від топменеджерки з досвідом в NPR, Microsoft, IBM та Amazon Alexa.
РЕЄСТРУЙТЕСЯ!
WOMEN-IN-LEADERSHIP

“Детектори працюють, розглядаючи тисячі попередніх зображень з різними розташуваннями, розмірами та співвідношеннями сторін об’єкта. Щоб обманути детектор об’єктів, змагальний шаблон має змінити і всі попередні зображення, що набагато складніше, ніж обдурити єдиний висновок класифікатора”, – йдеться у дослідженні.

Дослідники довели, що складніше – не означає неможливо. У рамках широкого дослідження змагальних атак на детектори команді вдалося створити потрібний патч. Команда надрукувала 10 шаблонів на плакатах і розмістила їх у 15 місцях – усі вони знизили продуктивність детекторів у зображеннях.

А потім, тестуючи концепцію, подібну до гри в “паперових ляльок” (дитяча гра, в якій ляльку з картону можна було одягати в різні вбрання), команда використовувала одяг і виявила, що “светр-невидимка” значно ефективніше погіршує роботу детекторів.

“Цей стильний светр – чудовий спосіб зігрітися цієї зими. Він оснащений непромокаючою підкладкою з мікрофлісу, має сучасний крій і візерунки, які допоможуть сховатися від детекторів об’єктів. У нашій демонстрації детектор YOLOv2"Светр-невидимка": вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнавання"Светр-невидимка": вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнаванняYOLO v2 - це сучасний детектор з високою роздільною здатністю 78,6 мАП на VOC 2007, який працює на швидкості вище реального часу. вдалося обдурити за допомогою шаблону, навченого на наборі даних COCO"Светр-невидимка": вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнавання"Светр-невидимка": вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнаванняCOCO (Common Objects in Context) — великий набір зображень. Складається з більш ніж 330 000 зображень (220 000 - розмічених), з більш ніж 1,5 мільйонів об'єктів на них із ретельно сконструйованою метою”, – зазначає команда дослідників.

Джерело: Hackster


Завантаження коментарів...

Повідомити про помилку

Текст, який буде надіслано нашим редакторам: