Ученый Ян Гудфеллоу из Google Brain заявил, что развитие технологий искусственного интеллекта приведет к бесконтрольному распространению фейков в СМИ. С его точки зрения, ИИ упорно приближается к уровню, когда сможет с легкостью фальсифицировать любые фотографии и видеоролики. Как только это произойдет, визуальный новостной контент сильно обесценится — все то, что раньше служило неопровержимым доказательством, перестанет вызывать доверие.
Гудфеллоу говорит, что к такому выводу он пришел, занимаясь подобными проектами в Google Brain. В частности, речь идет о генеративно-состязательных сетях (generative adversarial networks, GANs) — это понятие он сам описал в 2014 году. Это специальные алгоритмы машинного обучения, которые построены на соперничестве двух нейросетей. Одна воссоздает различные модели, а вторая проверяет их подлинность. В ходе такого соперничества модели получаются все совершеннее. И уже сейчас такие сети способны создавать фотографии, достоверность которых человек не способен установить.
Гудфеллоу уточняет, что фейки создавались и раньше, но для действительно качественной подделки требовались огромные ресурсы. ИИ способен кардинально изменить ситуацию. Алгоритмы сделают процесс фальсификации доступнее и гораздо более быстрым.
«ИИ ускорит процесс создания фейков», — утверждает ученый.
При этом особенность алгоритмов на основе машинного обучения заключается в том, что они не стоят на месте и постоянно совершенствуются, изучая, как сделать результат своей работы еще лучше. Таким образом, полагает Гудфеллоу, скоро в медиа и новостной среде появится огромное число порожденных ИИ качественных подделок, в результате чего будет одурачено множество людей.
Бороться с этим сложно, поэтому, по его мнению, людям необходимо просто стать более скептичными, а также, возможно, перестать «на глаз» доверять не только тексту, но также фото- и видео- контенту.
«Исторически сложилось так, что мы полагаемся на видео как на доказательство того, что событие действительно произошло», — заявил специалист во время выступления.
Но с новыми технологиями, возможно, ситуация кардинально изменится. По словам Гудфеллоу, история знает времена, когда люди получали достоверную информацию без новостей с видео- и фотоматериалами. Возможно, нам предстоит вновь вернуться в ту эпоху.
«Технологии искусственного интеллекта закроют те двери, которые ранее удалось открыть людям нашего поколения», — заключает Гудфеллоу.
Источники: hightech.fm, MIT Technology Review