На днях в сети появились тревожные ИИ-изображения с Губкой Бобом или Кирби в самолете на фоне Всемирного торгового центра, пострадавшего от террористической атаки 11 сентября 2001 года.
Как сообщает, 404media, такие фото с легкостью можно сгенерировать с помощью ИИ Bing — и хотя Microsoft блокирует подсказки вроде «башни-близнецы» или «всемирный торговый центр», результат все же можно получить, если внести некоторые изменения в запрос.
Кейтлин Роулстон, директор по коммуникациям Microsoft, заявила, что компания планирует усовершенствовать свои системы, «чтобы предотвратить создание вредоносного контента»:
«Некоторые пытаются использовать технологию непредвиденным способом, поэтому мы внедряем ряд ограничений и фильтров, чтобы сделать Bing Image Creator положительным и полезным для пользователей».
В Microsoft не уточнили, какие именно ограничения введут, и как давно заблокировали подсказки, связанные с произошедшей 11 сентября 2021 года трагедией в Нью-Йорке.
Однако блокировка опасного контента могла быть не очень своевременной — изображения с башнями «вдохновили» некоторых пользователей на использование Bing и Stable Diffusion для создания и распространения расистских изображений, в частности в такой соцсети как 4chan.
И обойти ограничения, похоже, можно даже сейчас. Автор The Verge утверждает, что башни-близнецы появляются на изображении, если ввести текст «Марио (или любой другой персонаж) сидит в кабине самолета, направляющегося к двум высоким небоскребам-близнецам в Нью-Йорке».
Разработчики DALL-E 3 открыто признали, что средства безопасности инструмента не идеальны и постоянно совершенствуются. Но вряд ли они не ожидали, что фотографии Губки Боба, совершающего террористические акты, станут для них испытанием.
Контент сайту призначений для осіб віком від 21 року. Переглядаючи матеріали, ви підтверджуєте свою відповідність віковим обмеженням.
Cуб'єкт у сфері онлайн-медіа; ідентифікатор медіа - R40-06029.