Обновление в Stable Diffusion – ИИ-генераторе текстов в изображение – усложнило имитацию определенных стилей художников или создание обнаженных изображений, но предлагает другие функциональные улучшения.
Stability AI, компания, финансирующая и распространяющая программное обеспечение ИИ-генератора, только что анонсировала Stable Diffusion 2. В новой версии обновлены ключевые компоненты модели и улучшены определенные функции, например масштабирование (возможность увеличения разрешения изображений) и рисование (редактирование с учетом контекста). Но изменения также усложняют для Stable Diffusion создание определенных типов изображений (в частности, эротических и порнографических материалов, фотореалистичных изображений знаменитостей и изображений, имитирующих произведения определенных художников).
Это вызвало шквал критики в соцсетях: «Они испортили модель», прокомментировал пользователь на сабреддите Stable Diffusion. «Неприятный сюрприз», — написал другой на официальном сервере Discord.
Пользователи отмечают, что запрос в Stable Diffusion 2 сгенерировать изображение в стиле цифрового художника Грега Рутковски – больше не выдает произведение искусства, которое очень напоминает собственный стиль художника. Сравните, например, эти изображения:
«Что вы сделали с Грегом?», — прокомментировал один из пользователей Discord.
Изменения в Stable Diffusion заметны, поскольку программное обеспечение оказывает огромное влияние и помогает устанавливать нормы на быстро изменяющейся сцене ИИ-генераторов. В отличие от моделей-конкурентов, таких, как DALL-E от OpenAI, Stable Diffusion имеет открытый код, позволяющий сообществу быстро улучшать инструмент, а разработчикам – бесплатно интегрировать его в свои продукты.
Но это также означает, что Stable Diffusion имеет меньше ограничений в использовании, что тоже вызывает критику. В частности, многие художники, такие как Рутковски, раздражены тем, что Stable Diffusion и другие генераторы изображений обучались на их работах без согласия и теперь могут воспроизводить их стили.
Вопрос состоит в том, является ли такое копирование с поддержкой искусственного интеллекта законным? Эксперты говорят, что обучение моделей искусственного интеллекта на защищенных авторским правом данных, вероятно, законно, но некоторые случаи использования могут быть обжалованы в суде.
Пользователи Stable Diffusion предположили, что изменения в модель были внесены Stability AI, чтобы смягчить потенциальные юридические проблемы. Однако когда журналисты The Verge спросили основателя Stability AI Эмада Мостака, так ли это, он не ответил. Хотя и подтвердил, что Stability AI не удалил картины художников из тренировочных данных (как предполагали многие пользователи). В то же время уменьшена сама способность модели копировать художников.
«Не было специальной фильтрации художников», — сказал Мостак.
Что было действительно удалено из тренировочных данных Stable Diffusion — так это обнаженные и порнографические изображения. ШИ-генераторы изображений уже используются для создания порнографических изображений – фотореалистичных и в стиле аниме. Однако эти модели также можно использовать для создания изображений, напоминающих конкретных людей (известно, как принудительная порнография), и изображений жестокого обращения с детьми.
Обсуждая изменения Stable Diffusion 2 в официальном Discord программного обеспечения, Мостак отмечает, что последний вариант использования и является причиной фильтрации.
Один пользователь сабреддита Stable Diffusion сказал, что удаление содержимого NSFW
«Решать, создавать контент NSFW или нет, должен конечный пользователь».
Другие, однако, заметили, что открытый код Stable Diffusion позволяет легко добавить тренировочные данные с обнаженным телом в выпуски сторонних разработчиков и что новое программное обеспечение не влияет на предыдущие версии:
«Не пугайтесь из-за отсутствия в V 2.0 картин/NSFW, вскоре вы сможете создать свою любимую знаменитость обнаженной».
Хотя изменения в Stable Diffusion 2 раздражали некоторых пользователей, многие другие высоко оценили его потенциал для более глубокой функциональности, в частности, новую способность программного обеспечения создавать содержимое, соответствующее глубине имеющегося изображения. Другие сказали, что изменения действительно усложнили быстрое создание высококачественных изображений, но, скорее всего, эту функцию улучшат в следующих версиях.
Сам Мостак сравнил новую модель с «основой для пиццы, позволяющей кому-либо добавлять ингредиенты (т.е. тренировочные данные) по своему выбору».
«Хорошая модель должна быть доступна для всех, и если вы хотите добавить что-то — добавьте», — написал он на Discord.
Мостак также сказал, что будущие версии Stable Diffusion будут использовать тренировочные наборы данных, позволяющие художникам подтверждать или отменять свое участие.
Общедоступную демонстрацию Stable Diffusion Version 2 можно просмотреть здесь.
Источник: The Verge