Зумеры в TikTok выдают себя за творения нейросети Veo 3 и собирают миллионы просмотров

С момента, когда Google представила свою модель Veo 3, способную генерировать реалистичные видео по текстовым запросам, отличить реальность от творений ИИ стало намного сложнее — и этим активно пользуются блогеры из TikTok, которые выдают себя за сгенерированные технологией видеоверсии и собирают миллионные просмотры.

Журналист ArsTechnica Кайли Орланд исследовал изменение алгоритмов соцсети после запуска Veo и обнаружил, что та сейчас просто утопает в видеофейках. Что интересно, между фейковыми новостями и сюрреалистическими короткими фильмами, созданными нейросетью, TikTok активно продвигает видео с реальными людьми, которые делают вид, что они аватары, сгенерированные Veo.

Что интересно, подобным «страдают» не только подростки, но и реальные бренды. К примеру, музыкальный инди-коллектив Kongos выпустил видеоклип, который очень хотел выдать за работу ИИ и даже добавил промт в подпись: «Группа братьев с бородами играет рок-музыку в 6/8 с аккордеоном». Быстрая проверка Орланда обнаружила, что музыканты на видео были реальной группой Kongos, а песня (кстати, довольно неплохая), которую они играли, была написана еще 9 лет назад.

@kongosmusicI can’t believe how good AI is getting. Pay close attention to the guitar solo at the end and see if you notice it.♬ When You’re Here — In-Studio Live — Kongos

Учитывая то, насколько непостоянны алгоритмы TikTok, блогеры прибегают ко все более причудливым методам продвижения и Veo от Google, очевидно, стал одним из таких инструментов. Впрочем, последняя тенденция выглядит несколько тревожно, если взглянуть на популярность видео, где люди (якобы сгенерированные ИИ) с грустью, страхом или даже паранойей говорят о том, что они «просто подсказки».

@kiidchroni AI is getting out of hand!! #ai #veo #veo3 #realorfake #prompt #google #gemini ♬ original sound — kiidchroni

Так как отличить реальность от вымысла?

Трудновато, но возможно. Есть определенные признаки того, что видео принадлежит к творениям Veo: первое и основное, модель Google пока не может создавать видео дольше 8 секунд, поэтому учитывайте продолжительность; к тому же продукты нейросети имеют тонкий, но самобытный стиль, который может отличить их от обычных видео, снятых на смартфон — освещение в них слишком яркое, движения камеры плавные, а границы объектов слишком отшлифованы. Или же просто просмотрите предыдущие видео в канале, и если тот же человек появлялся в «обычных» видео две недели назад, маловероятно, что он внезапно появился бы в творениях Veo.

В общем, пока все это выглядит, как невинная шутка, но у Veo большие перспективы стать главным инструментом для дипфейков, учитывая то, что даже самые простые инструменты неоднократно вводили людей в заблуждение накануне выборов в США или в контексте войны в Украине.

В США дети портят школьные Chromebook для челленджа в TikTok — нужно вставлять скрепки в USB-разъем