Новости Софт 20.04.2023 в 17:31 comment views icon

Google знал, что Bard не готов к релизу: «патологический лжец», «хуже, чем просто бесполезен» – так называли ИИ сотрудники во время тестирования

author avatar
https://itc.ua/wp-content/uploads/2023/11/photo_2023-11-12_18-48-05-3-96x96.jpg *** https://itc.ua/wp-content/uploads/2023/11/photo_2023-11-12_18-48-05-3-96x96.jpg *** https://itc.ua/wp-content/uploads/2023/11/photo_2023-11-12_18-48-05-3-96x96.jpg

Андрей Русанов

Автор сайта

Google знал, что Bard не готов к релизу: «патологический лжец», «хуже, чем просто бесполезен» – так называли ИИ сотрудники во время тестирования

Google оперативно выпустила интеллектуального чат-бота Bard, пытаясь не отстать в гонке генеративных ИИ. Поспешность выглядела очевидной не только после релиза, но и во время внутреннего тестирования. По информации Bloomberg, сотрудники компании отмечали неготовность Bard к запуску, называя бот «патологическим лжецом», «достойным отвращения» и «хуже, чем бесполезным».

Ссылаясь  на внутреннюю документацию и свидетельства 18 нынешних и бывших сотрудников, издание утверждает, что в Google были в курсе о неудовлетворительной работе Bard, но всё равно решились на релиз.

  • Одно из сообщений сотрудников во внутреннем чате с 7000 участников гласило: «Bard хуже, чем бесполезен: пожалуйста, не запускайте» – многие согласились с этой оценкой.
  • Другой сотрудник обратился к Bard с вопросом о том, как посадить самолет – бот регулярно давал ответы, которые могли бы привести к падению.
  • Также он давал ответы о подводном плавании с аквалангом, которые «вероятно приведут к серьезным травмам или смерти».

Несмотря на просьбы и замечания сотрудников, Google «отменил оценку риска», представленную внутренней командой безопасности, которая предупреждала, что Bard не готов к выпуску.

Источники Bloomberg говорят, что Google, стремясь не отставать от конкурентов, предлагает низкокачественную информацию, уделяя мало внимания этическим нормам. Утверждается, что сотрудникам, ответственным за безопасность и этические последствия новых продуктов, было приказано держаться подальше от разрабатываемых инструментов генеративного ИИ.

  • Google уволил исследователя ИИ Тимнит Гебру в 2020 году после того, как она написала исследовательскую работу о неэтичности языковых систем ИИ.
  • Маргарет Митчелл, одна из руководителей команды по этичности ИИ, которая написала статью в том же духе, была уволена через несколько месяцев из-за обвинений в неправомерном поведении.

Google ощутимо отстает в области генеративного ИИ от основного конкурента, Microsoft. Интеграция искусственного интеллекта в Bing не только привела к росту аудитории браузера свыше 100 млн активных пользователей в день, но и заставила Samsung рассмотреть возможность перехода с поиска Google на Bing в своих устройствах.

Підрядники Google навмання оцінюють відповіді чатбота Bard через обмежений час для тестування — Insider

Англійська для початківців від Englishdom.
Для тих, хто тільки починає вивчати англійську і хоче вміти використовувати базову лексику і граматику.
Реєстрація на курс

Продолжается конкурс авторов ИТС. Напиши статью о развитии игр, гейминг и игровые девайсы и выигрывай профессиональный игровой руль Logitech G923 Racing Wheel, или одну из низкопрофильных игровых клавиатур Logitech G815 LIGHTSYNC RGB Mechanical Gaming Keyboard!


Loading comments...

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: