Минулого місяця OpenAI додала в GPT-4o покращену генерацію зображень, яка дозволяє створювати реалістичні зображення. В тому числі значно покращилася генерація тексту на зображеннях. Люди вже почали використовувати цю функцію для створення фальшивих квитанцій із ресторанів, що може стати ще одним інструментом у вже широкому арсеналі ШІ-діпфейків, які застосовують шахраї.

Інвестор і активний користувач соцмереж Діді Дас опублікував у X фото підробленого чека з реального стейкхаусу в Сан-Франциско, який, за його словами, був створений за допомогою 4o.

I think in the original image the letters are too perfect and they don’t bend with the paper. They look like hovering above the paper. Here is my attempt to make it more realistic. Let me know what you think. pic.twitter.com/EixRSHubeY

— Michael Gofman (@michaelgofman) March 29, 2025

Інші користувачі також змогли відтворити подібні результати, зокрема додаючи плями від їжі чи напоїв, щоб зробити підробку ще більш реалістичною.

Найправдоподібніший приклад походить із Франції. Один із користувачів LinkedIn опублікував зім’ятий ШІ-згенерований чек від місцевої мережі ресторанів.

TechCrunch також протестував 4o і зміг створити підроблену квитанцію для Applebee’s у Сан-Франциско. Хоча в цьому випадку було кілька очевидних ознак, що чек фальшивий. По-перше, сума загальна використовує кому замість крапки. По-друге, математика не сходиться. Моделі ШІ все ще мають проблеми з базовими обчисленнями, тож це не стало несподіванкою.

Але шахраям не складе труднощів виправити кілька цифр за допомогою редактора зображень або більш точних запитів до ШІ.

Очевидно, що можливість легко створювати підроблені чеки відкриває величезні можливості для шахрайства. Неважко уявити, як подібні технології використовують для фальшивого відшкодування витрат.

Представниця OpenAI Тая Крістіансон заявила, що всі зображення, створені ChatGPT, містять метадані, які вказують на їхнє походження. Вона також додала, що OpenAI вживає заходів у разі порушення правил використання та постійно навчається на основі реального використання та відгуків користувачів.

На запитання, чому ChatGPT взагалі дозволяє генерувати підроблені чеки, і чи відповідає це політиці OpenAI, яка забороняє шахрайство, Крістіансон відповіла, що мета OpenAI — надати користувачам якомога більше творчої свободи. Разом з тим фейкові квитанції можуть використовуватися не тільки для шахрайства, а й для навчання фінансової грамотності, створення оригінального мистецтва та реклами продуктів.

«Я зробив з тебе Ghibli, ха-ха»: Сем Альтман покепкував з тренду ChatGPT та відклав новий генератор зображень GPT-4o для безплатних користувачів

Джерело: TechCrunch