Во время презентации Google I/O 2024 кроме новых технологий искусственного интеллекта программный гигант невольно продемонстрировал и главный недостаток современных ИИ — ошибки, неправильные и вредные советы.
Презентация Google «Поиск в эпоху Gemini» показала новую возможность — поиск по видео. Примером стало видео застрявшего рычага продвижения пленки на пленочном фотоаппарате, которое сопровождалось вопросом: «Почему рычаг не двигается до конца?»
ИИ в ответ предложил весьма «интересное» решение проблемы, которое может уничтожить сделанные кадры.
Да, языковая модель предложила «засветить» пленку. Любой, кто пользовался пленочной камерой, знает, что это ужасная идея. Если открыть камеру во время съемки, можно испортить часть пленки или даже всю пленку из-за света, который на нее попадет. Это буквально худшее, что можно предложить в этой ситуации.
Также напомним, что это не первый случай, когда речевые модели от Google были пойманы на искажении фактов. В прошлом году чатбот Bard заявил, что космический телескоп «Джеймс Уэбб» первым сфотографировал планету за пределами Солнечной системы (это неправда). Ранее сотрудники Google называли Bard «патологическим лжецом».
А уже новый ИИ Google Gemini был «пойман» на искажении исторических данных — на изображениях он отказывался воспроизводить белых людей там, где они должны были быть по контексту.
Источник: The Verge