Днями у мережі з’явились тривожні ШІ-зображення з Губкою Бобом чи Кірбі в літаку на тлі Всесвітнього торгового центру, що постраждав від терористичної атаки 11 вересня 2001 року.
Як повідомляє, 404media, такі фото з легкістю можна згенерувати за допомогою ШІ Bing — і хоча Microsoft блокує підказки на кшталт «вежі-близнюки» чи «всесвітній торговий центр», результат все-таки можна отримати, якщо внести деякі зміни у запит.
Кейтлін Роулстон, директор із комунікацій Microsoft, заявила, що компанія планує вдосконалити свої системи, «щоб запобігти створенню шкідливого контенту»:
«Дехто намагається використовувати технологію непередбаченим способом, тому ми впроваджуємо низку обмежень і фільтрів, щоб зробити Bing Image Creator позитивним і корисним для користувачів».
В Microsoft не уточнили, які саме обмеження введуть, та як давно заблокували підказки, пов’язані з трагедією, що сталася 11 вересня 2021 року у Нью-Йорку.
Однак блокування небезпечного контенту могло бути не дуже своєчасним — зображення з вежами «надихнули» деяких користувачів на використання Bing і Stable Diffusion для створення та розповсюдження расистських зображень, зокрема в такій соцмережі як 4chan.
І обійти обмеження, схоже, можна навіть зараз. Автор The Verge стверджує, що вежі-близнюки з’являються на зображенні, якщо ввести текст «Маріо (або будь-який інший персонаж) сидить у кабіні літака, який прямує до двох високих хмарочосів-близнюків у Нью-Йорку».
Розробники DALL-E 3 відкрито визнали, що засоби безпеки інструменту «не ідеальні» і постійно вдосконалюються. Але навряд, вони не очікували, що фотографії Губки Боба, який вчиняє терористичні акти, стануть для них випробуванням.
Контент сайту призначений для осіб віком від 21 року. Переглядаючи матеріали, ви підтверджуєте свою відповідність віковим обмеженням.
Cуб'єкт у сфері онлайн-медіа; ідентифікатор медіа - R40-06029.