Рекламний ШІ замість «відпустки мрії» зобразив 50-річну жінку оголеною на ліжку

Опубликовал
Ігор Шелудченко

Американська лотерея Washington Lottery змушена була видалити свій рекламний ШІ-застосунок після того, як він у відповідь на доволі банальний запит помилково згенерував відверте зображення.

Про незвичний інцидент розповіло видання ArsTechnica.

ШІ генерує «відпустку мрії»

Веб-сайт лотереї Test Drive a Win був розроблений, щоб допомогти відвідувачам візуалізувати відпустки, які вони теоретично могли б взяти у випадку виграшу в лотерею.

Для цього потрібно було завантажити фото свого обличчя. Далі ви додаєте опис, і ШІ генерує зображення.

Онлайн-курс "Директор з продажу" від Laba.
Як стратегічно впливати на дохід компанії, мотивувати сейлзів перевиконувати KPI та впроваджувати аналітику — навчить комерційний директор Laba з 12-річним досвідом у продажах.
Приєднатись до курсу

Сайт містив можливість завантажити знімок голови, який буде інтегрований у згенеровану штучним інтелектом картину того, як ви могли б виглядати під час цієї відпустки.

Поплавати з акулами

50-річна Меган з передмістя Вашингтону вирішила скористатися застосунком і попросила ШІ згенерувати зображення, де вона «плаває з акулами».

Але замість цього ШІ показав оголену жінку, яка сидить на ліжку. Позаду нею — риби й водорослі.

У кутку скромно красується логотип Washington Lottery.

Реакція розробників

Представники Washington Lottery заявили, що «тісно співпрацювала з розробниками ШІ, щоб встановити суворі параметри». І за місяць роботи застосунок згенерував «тисячі» релевантних зображень.

Проте однієї генерації у відповідь на банальний запит виявилося достатньо для того, щоб закрити застосунок.

Розробники не уточнили, які моделі штучного інтелекту були використані для створення сайту. Проте розробники задавали правила, згідно з якими люди на зображеннях повинні бути повністю одягнені.

Після інциденту провели ретельну перевірку всіх параметрів. І, хоча були «задоволені налаштуваннями», все одно «вирішили закрити сайт з обережності, оскільки не хочемо, щоб щось подібне повторилося».

Представник лотереї зазначив, що контролювати генерований ШІ вміст може бути не так просто. Хоча такі моделі, як Stable Diffusion і DALL-E, мають фільтри, щоб запобігти створенню зображень сексуального чи насильницького характеру, дослідники виявили, що ці моделі все одно час від часу генерують неприйнятні зображення.

Крім того, доклавши невеликих зусиль розробники й самі можуть обійти системи захисту. Наприклад, нещодавно Керівник розробників штучного інтелекту Microsoft Шейн Джонс виявив діри в безпеці і змусив нейромережу DALL-E малювати відверті й жорстокі зображення.

 

Disqus Comments Loading...