Певно, вам останнім часом траплялись у Facebook дописи, де просять підтримати лайком братів-красенів, що воюють за Україну, чи бабусю, яка зв’язала танк, спекла найбільшу у світі паляницю — і якщо ви добре знайомі з мистецтвом нейромереж, то запросто розпізнали фейк. Однак десятки тисяч користувачів насправді вірять у реальність фото, розкручуючи своїми вподобайками раніше нікому невідомі групи.
Ось один з прикладів і, як бачите, Facebook жодним чином не позначив його як неправдивий чи згенерований ШІ:
В іншому дописі позначка є на фото, але не від Facebook і настільки мала, що навряд кому впаде в око:
Для людей, знайомих з мистецтвом нейромереж, зображення очевидно згенеровані. Однак для тисяч користувачів Facebook, які поставили свої вподобайки чи репостнули допис, фото, схоже, здаються реальними.
Інший приклад — допис про робота, який нібито зібрав тисячі глядачів на свій перший концерт. Згідно з текстом, він «використовує Apple M3 Pro, зважаючи на недавнє партнерство Apple та OpenAI», а також запросив до себе на виступ аж «самого Марка Цукерберга та Леонардо Ді Капріо». Самі зображення, попри, надзвичайну фотореалістичність, також мають ознаки використання штучного інтелекту (кому замало відверто безглуздого тексту і того факту, що подібних технічних новинок у світі, на жаль, поки не існує): на усіх чотирьох фото в робота різні зачіски, одяг, мікрофон, і навіть розміри плечей тощо. Попри те, що зрештою Facebook спромігся позначити допис як неправдивий, за два тижні він зібрав сотні лайків і коментарів та тисячі репостів (а кілька сумнівних російських видань передрукували його як новину).
В лютому Meta оголосила, що почне додавати мітки «Made with AI» до фотографій, завантажених у Facebook, Instagram і Threads, але, як бачимо, по попередніх прикладах, щось пішло не так.
Щобільше: інструменти Meta, ігноруючи згенерований контент, помилково позначають як ШІ реальні фото. Як-от, наприклад, цей знімок турніру з крикету Індійської прем’єр-ліги в Instagram:
Так само Meta нещодавно позначила фотографію баскетбольної гри, зроблену колишнім фотографом Білого дому Пітом Соузою, як створену ШІ (мітки, до речі, видно лише в мобільних версіях застосунків). Сам Соуза казав, що намагався зняти позначку, але не зміг.
Згідно з PetaPixel, алгоритми Instagram можуть позначати згенерованими зображення, коли фотографи використовують генеративні інструменти штучного інтелекту, такі як Generative Fill від Adobe, щоб видалити навіть найменші об’єкти. Видання перевірило це на собі, використовуючи інструмент Generative Fill Photoshop, щоб видалити пляму із зображення, яке Meta потім позначив як створене ШІ в Instagram. Дивно, але позначку «Made with AI» не додали, коли PetaPixel завантажив файл назад у Photoshop, а потім зберіг його після копіювання та вставлення в чорновий документ.
Схоже, процес ідентифікації ШІ в Instagram та Facebook працює по-різному, однак в обидвох неповноцінно. Зважаючи на те, що в Meta давно існують проблеми з модерацією контенту, які вони так і не вирішила, зі штучним інтелектом може скластись подібна ситуація. Але не спішіть видаляти батьків з Facebook (інші соцмережі, навряд показуватимуть себе краще), просто не полініться і виділіть час на короткий лікнеп з розпізнавання фейкового чи штучного контенту.