Последнее время в мире все острее становится проблема использования искусственного интеллекта в целях дезинформации. Один из самых ярких примеров негативного проявления прогресса в этой области — новая категория фальсификаций под названием Deepfake [от сочетания терминов «deep learning» («глубокое обучение») и «fake» («подделка»)]. «Дипфейки» стали особенно известны из-за порно, в котором лица актеров с помощью нейросетей заменяли на лица знаменитостей, но с каждым днем эта сомнительная технология находит все новые применения. Вот и сейчас стало известно об очередном расширении горизонтов. Новое дипфейковое ПО с говорящим названием DeepNude при помощи нейросетей убирает одежду с фотографий и в некоторых случаях позволяет создавать весьма реалистичные обнаженные снимки представительниц прекрасного пола.
Обновлено: Буквально только что создатели через твиттер объявили о закрытии проекта. В соответствующем сообщении они пишут, что создавали ПО смеха ради и не ожидали, что оно станет вирусным и наделает столько шума. Авторы отмечают, что ситуация вышла из-под контроля и поэтому они решили все свернуть. Якобы мир пока не готов к таким технологиям. Что же, в чем-то они правы, хотя больше похоже на то, что они попросту испугались возможных последствий.
В числе первых на разработку обратили внимания издания Motherboard и Vice. Программа вышла 23 июня и пока доступна для Windows и Linux. Создатель DeepNude, если верить данным из профиля в соцсети Twitter, живет в Эстонии. Несколько часов назад сайт DeepNude ушел в офлайн из-за слишком большого наплыва посетителей, желающих испытать разработку. Но разработчики уже работают над решением проблем и обещают восстановить работу сервиса в течение нескольких дней.
На сайте проекта есть онлайн-версия, но она бесполезна, простая демонстрацией уже обработанных снимков. Само ПО нужно скачать и установить на ПК. После запуска процесса установки оно еще несколько минут докачивает сопутствующие библиотеки. Базовая версия является бесплатной, но есть нюансы. В процессе обработки алгоритм клеймит готовые снимки огромным водяным знаком, который сводит все труды алгоритма на нет. Впрочем, как видно со снимков, созданных ресурсом Motherboard, при желании водяной знак можно легко убрать. Еще более простой способ избавится от него — заплатить $50 за платную версию. В платной версии вместо водяного знака на фото ставится небольшая пометка «Fake» в углу. Если же заплатить $100, то можно получить голое фото без всяких водяных знаков и пометок. Разработчики DeepNude заверяют, что вся обработка снимков происходит локально, на внешние сервера компании ничего не отправляется.
Как и во многих других примерах Deepfake-порнографии, которых валом в сети, качество обработки варьируется от снимка к снимку и зависит от многих факторов. Если судить по примерам из сети, лучшего всего алгоритм справляется с качественными фотографиями девушек в купальниках или нижнем белье. Кроме того, имеет значение ракурс. Наилучший результат можно получить для снимков анфас. Впрочем, фотореализма здесь нет и в помине. И при близком рассмотрении на участках, подвергавшихся обработке, можно легко признаки редактирования — размытость и пикселизация.
Вот несколько примеров:
В то же время в случае снимков низкого качества без возможности пристального изучения подобные подделки легко могут быть приняты за настоящие и разрушить жизнь конкретного человека. К счастью, есть специальные инструменты, которые почти со 100% точностью распознают подобного рода подделки.
Примечательно, что с фотографиями мужчин алгоритм работать не умеет. Но это только пока. Журналистам Vice удалось связаться с разработчиком, который представился как Альберто. Он рассказал, что тренировал нейросеть на 10 тысячах фотографий обнаженных женщин и в будущем планирует расширить функциональность алгоритма на представителей сильного пола. Также разработчик рассказал, что на создание приложения его вдохновили магические «рентгеновские очки» из детства. В своем проекте он использовал алгоритм pix2pix для превращения набросков в фотографии.
На алгоритм уже обратили внимание правозащитные организации, выразив свое возмущение подобным «вторжением в частную сексуальную жизнь человека».
Источник: Motherboard, Vice и The Verge