Відомий канадський скрипаль Ешлі МакАйзек каже, що Google за допомогою функції AI Overview помилково представив його як засудженого сексуального злочинця, через що організатори концертів минулого тижня скасували його виступ.
Згідно зі статтею в The Globe and Mail, Ешлі МакАйзек домовлявся про виступ в громаді корінного народу Сіпекне’катік, трохи північніше Галіфакса, коли дізнався, що її керівництво змінило рішення. Йому повідомили, що вони прочитали в інтернеті, ніби він має судимості, пов’язані з інтернет-виманюванням і сексуальним насильством. Але ця інформація не відповідає дійсності.
Згодом з’ясувалося, що організатори бачили результат Google AI Overview, який переплутав біографію МакАйзека з біографією іншого чоловіка, який є мешканцем провінції Ньюфаундленд і Лабрадор та має те саме прізвище. Скрипаль каже, що цей інцидент змусив його хвилюватися за власну безпеку, припускаючи, що жертва сексуального насильства могла б бути спровокована неправдивою інформацією та зіткнутися з ним.
“Google облажався, і це поставило мене в небезпечну ситуацію. Людям варто усвідомлювати, що їм слід перевіряти свою онлайн-присутність, щоб побачити, чи не з’являється там чиєсь чуже ім’я”, — сказав МакАйзек в інтерв’ю.
Музиканта тепер також непокоїть робота, яку він міг втратити, навіть не знаючи про це, якщо попередні промоутери чи майданчики вирішили не бронювати його через дезінформацію в пошукових системах. Професійні наслідки можуть поширитися й на його можливість в’їзду до США для концертів, з огляду на посилений контроль соціальних мереж з боку прикордонних агентів. Він розглядає свій досвід як попереджувальний сигнал для інших.
“Ми бачимо перехід пошукових систем від навігаторів інформації до нараторів. Я б стверджував, що є докази, які свідчать про те, що згенеровані ШІ резюме сприймаються пересічними користувачами як авторитетні”, — прокоментував ситуацію професор ван дер Лінден, доцент Університету Макмастера, який досліджує дезінформацію, згенеровану ШІ.
Суперечки навколо функції Google AI Overviews тривають ще з 2024 року, коли її запустили і вона швидко стала об’єктом насмішок після порад людям мазати піцу клеєм тощо. В ній виявили низку дивних помилок, до яких вона схильна, зокрема до правдоподібних симуляцій. Тоді Google повідомляв, що їм усе ще “є над чим працювати” з боку якості. Випадок з МакАйзеком показує, що помилки досі не виправлені.
“Пошук, зокрема AI Overviews, є динамічним і часто змінюється, щоб показувати найбільш корисну інформацію. Коли виникають проблеми — наприклад, якщо наші функції неправильно інтерпретують вебконтент або пропускають певний контекст, — ми використовуємо ці приклади для вдосконалення наших систем і можемо вживати заходів відповідно до наших політик”, – .повідомила речниця Google Венді Ментон.
Google виправив результати пошуку щодо музиканта, але, як-то кажуть, “осад залишився”. Громади корінного народу Сіпекне’катік віднеслися з розумінням до інциденту, їх представник повідомив МакАйзеку, що вони глибоко шкодують про шкоду, якої ця помилка завдала його репутації, заробітку та відчуттю особистої безпеки, і сказав, що в майбутньому він знову буде бажаним гостем для виступів. Втім, увесь цей кейс демонструє, що надто багато проблем для багатьох людей виникає через галюцинації ШІ.
Джерело: Gizmodo
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: