Стартап Unstable Diffusion собрал на обучение искусственного интеллекта, генерирующего порно, более $56 тыс. с помощью 867 спонсоров. Но внезапно Kickstarter изменил свое мнение о том, какие проекты на основе ИИ могут быть разрешены на платформе и закрыл кампанию Unstable Diffusion. Поскольку Kickstarter использует модель «все или ничего», а кампания еще не завершена, все собранные деньги будут возвращены спонсорам.
«За последние несколько дней мы связались с консультативным советом нашего сообщества и прочитали ваши отзывы, полученные нашей командой и из социальных сетей», — заявил генеральный директор Эверетт Тейлор в своем блоге. — «Ясно одно: Kickstarter должен быть и всегда будет на стороне творческой работы и людей, стоящих за этой работой. Мы здесь, чтобы помочь творческой работе процветать».
Новый подход Kickstarter к размещению проектов ИИ намеренно расплывчат:
«Эта технология действительно новая и у нас нет ответов на все вопросы», — написал Тейлор. «Решения, которые мы принимаем сейчас, могут отличаться от тех, которые мы примем в будущем, поэтому мы хотим, чтобы это был постоянный разговор со всеми вами».
Сейчас платформа рассматривает вопрос о том, как проекты взаимодействуют с материалами, защищенными авторским правом, особенно когда работы художников появляются в обучающих данных алгоритма без согласия. Kickstarter также планирует устанавливать, будет ли проект «эксплуатировать конкретное сообщество или подвергать кого-либо риску причинения вреда».
В последние месяцы такие инструменты, как ChatGPT от OpenAI и Stable Diffusion от Stability AI, пользовались массовым успехом, выводя разговоры об этичности художественных работ ИИ на передний план общественных дебатов.
Некоторые художники обратились к Kickstarter через Твиттер, чтобы заставить платформу отказаться от отказаться от проекта Unstable Diffusion – якобы генераторы искусства ИИ могут угрожать карьере художников. Сообщество насторожил рекламный текст Unstable Diffusion:
«С финансированием в размере $25 000 мы можем позволить себе обучить новую модель [ИИ] с помощью 75 млн высококачественных изображений, в том числе из ~25 млн изображений аниме и косплея, ~25 млн художественных изображений с Artstation, DeviantArt и Behance, и ~ 25 млн фотографий».
Многие художники размещают свои работы на указанных сайтах, не давая прямого согласия на такое использование их работ. Но, несмотря на приостановку работы на Kickstarter, Unstable Diffusion продолжает собирать средства в других местах.
«Хотя капитуляция Kickstarter перед громкой группой художников разочаровывает нас, мы и наши сторонники не отступим от защиты свободы творчества», — сказал генеральный директор Unstable Diffusion Арман Чаудри. «Мы обновили наш сайт, чтобы наши сторонники могли напрямую участвовать в создании и выпуске новых художественных систем искусственного интеллекта, более мощных, чем когда-либо. Мы откликаемся на призыв защищаться от художников, выступающих за то, чтобы сделать все искусство ИИ незаконным, поддержка спонсоров позволит нам бросить вызов этому все более хорошо финансируемому и организованному лобби».
Unstable Diffusion теперь обрабатывает пожертвования прямо на своем веб-сайте с помощью Stripe. На данный момент собрано более 15 000 долларов.
В более длинном сообщении, опубликованном в сообществе Unstable Diffusion Discord, которое насчитывает более 97 000 участников, Чаудри предупредил участников о растущих движениях художников, выступающих против ИИ:
«Похоже, что толпа противников ИИ пытается заставить нас замолчать и уничтожить наше сообщество, отправляя ложные отчеты на Kickstarter, Patreon и Discord. Они даже начали кампанию GoFundMe, собрав более $150 000, с целью лоббировать признание искусства ИИ незаконным».
«К сожалению, мы видели, как другие сообщества и компании сжимались перед лицом этих атак. Zeipher объявил о приостановке выпуска и закрыл свое сообщество, а Stability AI теперь удаляет художников из Stable Diffusion 3.0. Но мы не будем молчать. Мы не позволим им преуспеть в их попытках задушить наше творчество и инновации. Наше сообщество сильное (почти 100 000 пользователей), и мы не проиграем небольшой группе людей, которые слишком боятся использовать новые инструменты и технологии».
Stable Diffusion использует набор данных из 2,3 миллиарда изображений для обучения своего генератора преобразования текста в изображение. Но только примерно 2,9% набора данных содержат материалы NSFW, что дает модели мало возможностей, когда дело доходит до определенного контента. Вот где на помощь приходит Unstable Diffusion. Проект, который является частью Equilibrium AI, с помощью добровольцев со своего сервера Discord собирает данные для разработки более точной настройки ИИ.
В своем ныне приостановленном сборе Kickstarter Unstable Diffusion заявила, что будет работать над созданием художественной модели ИИ, которая сможет «лучше обрабатывать анатомию человека, генерировать в разнообразных и контролируемых художественных стилях, более справедливо представлять недостаточно обученные направления генерации контента, такие как LGBTQ, расы и гендеры».
Кроме того, нет объективного и точного способа проверить, была ли большая часть бесплатно доступного в Интернете обычного порнографического контента создана по обоюдному согласию. Также, даже в том случае, если модель соглашается сниматься в порно, это не означает автоматического согласия на использование ее изображений для обучения ИИ. Хотя эта технология может создавать потрясающе реалистичные виды, это также означает, что ее можно использовать в качестве оружия для создания дипфейк-порнографии без согласия.
Источник: TechCrunch