“Светр-невидимка”: вчені розробили одяг, який допоможе сховатися від ШІ-систем розпізнавання

Розділ Технології виходить за підтримки Favbet Tech

Група дослідників з Мерилендського університету в Коледж-Парку, яка працює зі штучним інтелектом Facebook, розробила “светр-невидимку”, який може приховати людину від систем розпізнавання.

Спочатку команда зосередилася на моделюванні атак: створенні “змагального шаблону”Змагальна атака (adversarial attack) - спосіб обманути нейромережу, щоб вона видала некоректний результат, який можна було б застосувати до виявлених об’єктів на зображенні, а нейромережа не змогла б їх розпізнати. Дослідники спробували створити універсальний протиборчий патч – єдиний шаблон, який можна застосувати на будь-якому об’єкті та приховати його від системи ШІ.

Попередні спроби змагальних атак на нейромережі переважно були зосереджені на класифікаторах (надають цілісну мітку всьому зображенню), але цього разу дослідники взялися за детектори (локалізують об’єкти на зображенні).

“Детектори працюють, розглядаючи тисячі попередніх зображень з різними розташуваннями, розмірами та співвідношеннями сторін об’єкта. Щоб обманути детектор об’єктів, змагальний шаблон має змінити і всі попередні зображення, що набагато складніше, ніж обдурити єдиний висновок класифікатора”, – йдеться у дослідженні.

Дослідники довели, що складніше – не означає неможливо. У рамках широкого дослідження змагальних атак на детектори команді вдалося створити потрібний патч. Команда надрукувала 10 шаблонів на плакатах і розмістила їх у 15 місцях – усі вони знизили продуктивність детекторів у зображеннях.

This sweater developed by the University of Maryland is an invisibility cloak against AI.

It uses “adversarial patterns” to stop AI from recognizing the person wearing it. pic.twitter.com/aJ8LlHixvX

— Morning Brew ☕️ (@MorningBrew) October 25, 2022

А потім, тестуючи концепцію, подібну до гри в “паперових ляльок” (дитяча гра, в якій ляльку з картону можна було одягати в різні вбрання), команда використовувала одяг і виявила, що “светр-невидимка” значно ефективніше погіршує роботу детекторів.

“Цей стильний светр – чудовий спосіб зігрітися цієї зими. Він оснащений непромокаючою підкладкою з мікрофлісу, має сучасний крій і візерунки, які допоможуть сховатися від детекторів об’єктів. У нашій демонстрації детектор YOLOv2YOLO v2 - це сучасний детектор з високою роздільною здатністю 78,6 мАП на VOC 2007, який працює на швидкості вище реального часу. вдалося обдурити за допомогою шаблону, навченого на наборі даних COCOCOCO (Common Objects in Context) — великий набір зображень. Складається з більш ніж 330 000 зображень (220 000 - розмічених), з більш ніж 1,5 мільйонів об'єктів на них із ретельно сконструйованою метою”, – зазначає команда дослідників.

Джерело: Hackster

Розділ Технології виходить за підтримки Favbet Tech

Favbet Tech – це ІТ-компанія зі 100% украі‌нською ДНК, що створює досконалі сервіси для iGaming і Betting з використанням передових технологіи‌ та надає доступ до них. Favbet Tech розробляє інноваційне програмне забезпечення через складну багатокомпонентну платформу, яка здатна витримувати величезні навантаження та створювати унікальний досвід для гравців.