Американская лотерея Washington Lottery вынуждена была удалить свое рекламное ИИ-приложение после того, как оно в ответ на довольно банальный запрос ошибочно сгенерировало откровенное изображение.
О необычном инциденте рассказало издание ArsTechnica.
Веб-сайт лотереи Test Drive a Win был разработан, чтобы помочь посетителям визуализировать отпуска, которые они теоретически могли бы взять в случае выигрыша в лотерею.
Для этого нужно было загрузить фото своего лица. Далее вы добавляете описание, и ИИ генерирует изображение.
Сайт содержал возможность загрузить снимок головы, который будет интегрирован в сгенерированную искусственным интеллектом картину того, как вы могли бы выглядеть во время этого отпуска.
50-летняя Меган из пригорода Вашингтона решила воспользоваться приложением и попросила ИИ сгенерировать изображение, где она «плавает с акулами».
Но вместо этого ИИ показал обнаженную женщину, которая сидит на кровати. Позади нее — рыбы и водоросли.
В углу скромно красуется логотип Washington Lottery.
Представители Washington Lottery заявили, что «тесно сотрудничала с разработчиками ИИ, чтобы установить строгие параметры». И за месяц работы приложение сгенерировало «тысячи» релевантных изображений.
Однако одной генерации в ответ на банальный запрос оказалось достаточно для того, чтобы закрыть приложение.
Разработчики не уточнили, какие модели искусственного интеллекта были использованы для создания сайта. Однако разработчики задавали правила, согласно которым люди на изображениях должны быть полностью одеты.
После инцидента провели тщательную проверку всех параметров. И, хотя были «довольны настройками», все равно «решили закрыть сайт из предосторожности, поскольку не хотим, чтобы что-то подобное повторилось».
Представитель лотереи отметил, что контролировать генерируемый ИИ контент может быть не так просто. Хотя такие модели, как Stable Diffusion и DALL-E, имеют фильтры, чтобы предотвратить создание изображений сексуального или насильственного характера, исследователи обнаружили что эти модели все равно время от времени генерируют неприемлемые изображения.
Кроме того, приложив небольшие усилия разработчики и сами могут обойти системы защиты. Например, недавно Руководитель разработчиков искусственного интеллекта Microsoft Шейн Джонс обнаружил дыры в безопасности и заставил нейросеть DALL-E рисовать откровенные и жестокие изображения.