Пользователи DALL-E 2 могут загрузить фотографию человека и создать варианты изображения лица, поменять одежду или изменить прическу.
Ранее OpenAI запрещала загрузку любых фотографий в DALL-E, если на них был изображен реальный человек, включая снимки знаменитостей и общественных деятелей. В письме, отправленном более чем миллиону пользователей генератора изображений, компания сообщает, что открывает доступ к этой функции, предварительно улучшив свои фильтры для удаления дипфейков и снимков «сексуального, насильственного или политического содержания».
«Один их хирургов сообщил нам, что использовал нейросеть для визуализации запросов своих пациентов. Кинематографисты тоже хотели бы получить возможность редактировать изображения сцен с людьми, чтобы ускорить свои творческие процессы», — комментируют обновления в OpenAI.
Теперь пользователи могут загрузить лицо реального человека и изменить его, либо поменять одежду или фон.
Решение является результатом переговоров создателей ИИ-генераторов со своими пользователями, таким образом они пытаются определить потенциальный вред технологии. OpenAI придерживается относительно осторожного подхода, но компанию уже обошли конкуренты по типу Stable Diffusion, которая вводит меньше ограничений.
Однако Stable Diffusion уже активно используется для создания порнографических дипфейков знаменитостей. Подобный материал в DALL-E был бы сразу же заблокирован, так как условия компании запрещают пользователям загружать изображения людей без их согласия — впрочем как это будет обеспечиваться при текущей модели доступа пока неизвестно.
Обновленная версия генератора изображений от OpenAI DALL-E 2 сейчас доступна только в бета-версии по приглашению.
Источник: Techcrunch,The Verge