Лабораторія Microsoft AI for Good провела експеримент за участю понад 12 500 учасників з усього світу, котрі здійснили 287 000 оцінок зображень.

Дослідження показало, що загальний рівень успішності розпізнавання зображень, створених штучним інтелектом, від реальних становить лише 62%. Це свідчить, що люди мають лише помірну здатність розрізняти «творчість» ШІ, а успішність «лише трохи вища, ніж підкидання монети», тобто ніж проста випадковість.

Учасники найлегше розпізнавали підроблені зображення людей, але зіткнулися зі значними труднощами, коли йшлося про природні або міські пейзажі, де рівень успіху знизився до 59-61%. У межах дослідження учасники мали зіграти у вікторину «Реально чи ні», де їм показували зображення, створені ШІ, на які вони, ймовірно, могли б реально натрапити в інтернеті. Під час неї люди уникали вибору незрозумілих зображень або обирали лише ті, що вводять в оману. Дослідники зазначають, що штучний інтелект постійно вдосконалюється, тому майбутні моделі зможуть створювати ще переконливіші зображення.

Дослідники також скористалися власним інструментом виявлення ШІ — він зміг досягти понад 95% успіху у всіх категоріях. Це свідчить, що автоматизоване розпізнавання набагато надійніше, ніж людське, але й воно не бездоганне.

Автори дослідження зазначають, що людям, можливо, було легше виявляти зображення облич, створені штучним інтелектом, завдяки людській вродженій здатності добре розпізнавати обличчя. Дослідження виявило, що генеративно-змагальні мережі (GAN) та метод інпайнтингу досить добре обманювали користувачів, оскільки вони створювали зображення в естетиці аматорської фотографії, на противагу «студійності» Midjourney та DALL-E 3.

Інпайнтинг — техніка, яка замінює невеликий елемент реального зображення згенерованим. Microsoft зазначила, що це надзвичайно ускладнює виявлення підробок і створює значний ризик навмисної дезінформації.

Ґрунтуючись на результатах дослідження, компанія закликає до впровадження інструментів прозорості, таких як водяні знаки та надійні засоби виявлення ШІ, щоб усунути ризики поширення дезінформації. Щоб допомогти людям дізнатися про ці небезпеки, Microsoft раніше розпочала кампанію, спрямовану на боротьбу з дезінформацією, створеною ШІ.

Джерела: Windows Central, Neowin