ИИ Amazon восхваляет Mein Kampf как «произведение искусства», а Google это подхватывает

ИИ от Amazon и Google попали в ловушку, когда назвали Mein Kampf «настоящим произведением искусства».

Те, кто думал, что искусственный интеллект уже достаточно умен, чтобы не попадаться на очевидные «крючки», то вот вам новый пример. Пользователи заметили, что Google показывал при поиске положительные отзывы Mein Kampf, а именно сгенерированный от Amazon.

Проблема в том, что ШИ пытался обобщить общие рецензии читателей, поэтому полностью потерял контекст. В отзывах на книгу в основном говорили о качестве печати, легкости чтения или исторической значимости — а не ее идейном содержании. Из-за того, что ИИ не разбирается в нюансах, он выдал общий итог: «произведение искусства».

Google сделал ситуацию еще интереснее, когда добавил этот фрагмент в свою функцию AI Overviews (которая призвана быстро выдавать «полезные» ответы на запросы). В результате поиска Google буквально рекламировал Mein Kampf как книгу с «умными высказываниями».

Скорее всего, ИИ от Amazon в отзывах вырвал фразы из контекста. Это и выдало пользователю типичный для ИИ пустой обзор, в котором «налито много воды». Если бы человек прочитал отзывы отдельно, то понял бы, что рецензент не обязательно поддерживает идеи книги. А вот ИИ все это собрал и вывел итог в стиле «гениальное чтиво».

Когда журналисты обратились к Google за комментарием, компания быстро отключила ИИ-отзыв для этого поиска. Amazon ситуацию не комментирует ситуацию. Случай хорошо напоминает, что ИИ не понимает контекста и может давать откровенно неоднозначные ответы. Искусственный интеллект не может заменить критическое мышление, поэтому доверять любому его ответу бессмысленно.

Также Amazon в 2020 году на некоторое время запретила книгу на своих платформах, но потом вернула ее в продажу. При этом продажи осуществляются без объяснения контекста, и это дает поле для странных ситуаций с отзывами.

Пример с Mein Kampf не стал первым «проколом» Google AI Overviews. Ранее функция советовала людям есть клей, глотать по камню в день и использовать секс-игрушки для успокоения детей. Также недавно Google запустил «ложные» оповещения о землетрясении в регионе, где их почти не бывает. Ещё Gemini выдавала не совсем корректные изображения исторических фигур и групп через политику разнообразия. Похожую проблему имела Apple Intelligence, которая показывала критически неточные новости.

ИИ-агенты — работают, думают, играют и любят вместо вас. Детально разбираем главный тренд 2025 года

Источник: 404 Media