Google знал, что Bard не готов к релизу: «патологический лжец», «хуже, чем просто бесполезен» – так называли ИИ сотрудники во время тестирования

Google оперативно выпустила интеллектуального чат-бота Bard, пытаясь не отстать в гонке генеративных ИИ. Поспешность выглядела очевидной не только после релиза, но и во время внутреннего тестирования. По информации Bloomberg, сотрудники компании отмечали неготовность Bard к запуску, называя бот «патологическим лжецом», «достойным отвращения» и «хуже, чем бесполезным».

Ссылаясь  на внутреннюю документацию и свидетельства 18 нынешних и бывших сотрудников, издание утверждает, что в Google были в курсе о неудовлетворительной работе Bard, но всё равно решились на релиз.

• Одно из сообщений сотрудников во внутреннем чате с 7000 участников гласило: «Bard хуже, чем бесполезен: пожалуйста, не запускайте» – многие согласились с этой оценкой.
• Другой сотрудник обратился к Bard с вопросом о том, как посадить самолет – бот регулярно давал ответы, которые могли бы привести к падению.
• Также он давал ответы о подводном плавании с аквалангом, которые «вероятно приведут к серьезным травмам или смерти».

Несмотря на просьбы и замечания сотрудников, Google «отменил оценку риска», представленную внутренней командой безопасности, которая предупреждала, что Bard не готов к выпуску.

Источники Bloomberg говорят, что Google, стремясь не отставать от конкурентов, предлагает низкокачественную информацию, уделяя мало внимания этическим нормам. Утверждается, что сотрудникам, ответственным за безопасность и этические последствия новых продуктов, было приказано держаться подальше от разрабатываемых инструментов генеративного ИИ.

• Google уволил исследователя ИИ Тимнит Гебру в 2020 году после того, как она написала исследовательскую работу о неэтичности языковых систем ИИ.
• Маргарет Митчелл, одна из руководителей команды по этичности ИИ, которая написала статью в том же духе, была уволена через несколько месяцев из-за обвинений в неправомерном поведении.

Google ощутимо отстает в области генеративного ИИ от основного конкурента, Microsoft. Интеграция искусственного интеллекта в Bing не только привела к росту аудитории браузера свыше 100 млн активных пользователей в день, но и заставила Samsung рассмотреть возможность перехода с поиска Google на Bing в своих устройствах.