На днях в сети появились тревожные ИИ-изображения с Губкой Бобом или Кирби в самолете на фоне Всемирного торгового центра, пострадавшего от террористической атаки 11 сентября 2001 года.
Как сообщает, 404media, такие фото с легкостью можно сгенерировать с помощью ИИ Bing — и хотя Microsoft блокирует подсказки вроде «башни-близнецы» или «всемирный торговый центр», результат все же можно получить, если внести некоторые изменения в запрос.
Кейтлин Роулстон, директор по коммуникациям Microsoft, заявила, что компания планирует усовершенствовать свои системы, «чтобы предотвратить создание вредоносного контента»:
«Некоторые пытаются использовать технологию непредвиденным способом, поэтому мы внедряем ряд ограничений и фильтров, чтобы сделать Bing Image Creator положительным и полезным для пользователей».
В Microsoft не уточнили, какие именно ограничения введут, и как давно заблокировали подсказки, связанные с произошедшей 11 сентября 2021 года трагедией в Нью-Йорке.
- Террористический акт 11 сентября 2001 года (также известный как 9/11) – серия скоординированных террористических атак исламистской организации «Аль-Каида», участники которой намеренно направили самолеты в башни-близнецы Всемирного торгового центра. Тогда погибли 2 996 человек, и еще более 6 000 получили ранения.
Однако блокировка опасного контента могла быть не очень своевременной — изображения с башнями «вдохновили» некоторых пользователей на использование Bing и Stable Diffusion для создания и распространения расистских изображений, в частности в такой соцсети как 4chan.
И обойти ограничения, похоже, можно даже сейчас. Автор The Verge утверждает, что башни-близнецы появляются на изображении, если ввести текст «Марио (или любой другой персонаж) сидит в кабине самолета, направляющегося к двум высоким небоскребам-близнецам в Нью-Йорке».
Разработчики DALL-E 3 открыто признали, что средства безопасности инструмента не идеальны и постоянно совершенствуются. Но вряд ли они не ожидали, что фотографии Губки Боба, совершающего террористические акты, станут для них испытанием.