Команда Google DeepMind создала инструмент SynthID, предназначенный помечать неудаляемым водяным знаком сгенерированные искусственным интеллектом изображения.
SynthID сначала будет доступен только для пользователей генератора изображений с искусственным интеллектом Imagen от Google, который размещен на платформе машинного обучения Google Cloud Vertex. Пользователям при создании изображения будет предоставлена возможность выбрать, добавлять водяной знак или отказаться от него.
Это может стать помощью в борьбе с дипфейками, которые получили особое распространение в прошлом году, с ростом популярности генеративного искусственного интеллекта, передает MIT Technology Review. Водяной знак — это техника, с помощью которой можно вшить определенный сигнал во фрагмент текста или изображения, что будет идентифицировать его как сгенерированное. Это поможет, в том числе защитить авторское право.
На ежегодной конференции Google I/O в мае Сундар Пичай заявил, что компания изначально строит свои модели с учетом возможности интеграции водяных знаков. Google через DeepMind стала первой крупной технологической компанией, которая публично запустила такой инструмент.
Традиционно на изображения наносили водяные знаки, добавляя на них видимый символ или внося информацию в метаданные. Но этот метод является «хрупким», водяной знак может быть потерян при обрезке, изменении размера или редактировании изображений, говорит Пушмит Коли, вице-президент по исследованиям Google DeepMind.
SynthID создается с помощью двух нейронных сетей. Одна из них берет оригинальное изображение и создает другое, почти идентичное ему, но с несколько измененными пикселями. Это создает встроенный узор, невидимый для человеческого глаза. Вторая нейронная сеть может обнаружить этот шаблон и сообщит пользователям, обнаруживает ли она водяной знак или подозревает это. Согласно словам Коли, SynthID разработан таким образом, что водяной знак можно обнаружить, даже если изображение сделано со скриншота или отредактировано.
Google DeepMind не единственная, кто работает над методами нанесения водяных знаков. Подобные инструменты уже существуют и используются в генераторе ИИ-изображений Stable Diffusion с открытым исходным кодом. Meta также проводила исследования по водяным знакам, но еще не запустила ни одного публичного инструмента для нанесения и отслеживания водяных знаков.
Коли утверждает, что водяной знак Google DeepMind более устойчив к подделке, чем предыдущие попытки создания водяных знаков для изображений, хотя все еще не является полностью защищенным. Тем не менее запуск Google DeepMind является хорошим первым шагом и может привести к лучшему обмену информацией в отрасли о том, какие методы работают, а какие нет, говорит Клэр Лейбович, руководитель программы AI and Media Integrity Program Partnership on AI.
Коли рассказал, что инструмент нанесения водяных знаков является «экспериментальным». И добавил, что компания хочет увидеть, как люди им пользуются, и узнать о его сильных и слабых сторонах, прежде чем развертывать его более широко. Он не сообщил, сделает ли Google DeepMind этот инструмент доступным для других изображений, кроме генерируемых Imagen, и будет ли Google добавлять водяные знаки к своим другим ИИ-системам генерации изображений.