Известный канадский скрипач Эшли МакАйзек говорит, что Google с помощью функции AI Overview ошибочно представил его как осужденного сексуального преступника, из-за чего организаторы концертов на прошлой неделе отменили его выступление.
Согласно статье в The Globe and Mail, Эшли МакАйзек договаривался о выступлении в общине коренного народа Сипекне’катик, чуть севернее Галифакса, когда узнал, что ее руководство изменило решение. Ему сообщили, что они прочитали в интернете, будто он имеет судимости, связанные с интернет-выманиванием и сексуальным насилием. Но эта информация не соответствует действительности.
Впоследствии выяснилось, что организаторы видели результат Google AI Overview, который перепутал биографию МакАйзека с биографией другого мужчины, который является жителем провинции Ньюфаундленд и Лабрадор и имеет ту же фамилию. Скрипаль говорит, что этот инцидент заставил его волноваться за собственную безопасность, предполагая, что жертва сексуального насилия могла бы быть спровоцирована ложной информацией и столкнуться с ним.
«Google облажался, и это поставило меня в опасную ситуацию. Людям стоит осознавать, что им следует проверять свое онлайн-присутствие, чтобы увидеть, не появляется ли там чье-то чужое имя», — сказал МакАйзек в интервью.
Музыканта теперь также беспокоит работа, которую он мог потерять, даже не зная об этом, если предыдущие промоутеры или площадки решили не бронировать его из-за дезинформации в поисковых системах. Профессиональные последствия могут распространиться и на его возможность въезда в США для концертов, учитывая усиленный контроль социальных сетей со стороны пограничных агентов. Он рассматривает свой опыт как предупредительный сигнал для других.
«Мы видим переход поисковых систем от навигаторов информации к нараторам. Я бы утверждал, что есть доказательства, свидетельствующие о том, что сгенерированные ИИ резюме воспринимаются рядовыми пользователями как авторитетные», — прокомментировал ситуацию профессор ван дер Линден, доцент Университета Макмастера, который исследует дезинформацию, сгенерированную ИИ.
Споры вокруг функции Google AI Overviews продолжаются еще с 2024 года, когда ее запустили и она быстро стала объектом насмешек после советов людям мазать пиццу клеем и тому подобное. В ней обнаружили ряд странных ошибок, к которым она склонна, в частности к правдоподобным симуляциям. Тогда Google сообщал, что им все еще «есть над чем работать «со стороны качества. Случай с МакАйзеком показывает, что ошибки до сих пор не исправлены.
«Поиск, в частности AI Overviews, является динамичным и часто меняется, чтобы показывать наиболее полезную информацию. Когда возникают проблемы — например, если наши функции неправильно интерпретируют веб-контент или пропускают определенный контекст, — мы используем эти примеры для совершенствования наших систем и можем принимать меры в соответствии с нашими политиками», — сообщила пресс-секретарь Google Венди Ментон.
Google исправил результаты поиска по музыканту, но, как говорится, «осадок остался». Общины коренного народа Сипекне’катик отнеслись с пониманием к инциденту, их представитель сообщил МакАйзеку, что они глубоко сожалеют о вреде, который эта ошибка нанесла его репутации, заработку и ощущению личной безопасности, и сказал, что в будущем он снова будет желанным гостем для выступлений. Впрочем, весь этот кейс демонстрирует, что слишком много проблем для многих людей возникает из-за галлюцинаций ИИ.
Источник: Gizmodo
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: