Рубрики НовиниСофт

Google знав, що Bard не готовий до релізу: «патологічний брехун», «гірше, ніж просто марний» – так називали ШІ співробітники під час тестування

Опубликовал
Андрей Русанов

Google оперативно випустила інтелектуального чат-бота Bard, намагаючись не відстати у перегонах генеративних ШІ. Поспіх виглядав очевидним не тільки після релізу, а й під час внутрішнього тестування. За інформацією Bloomberg, співробітники компанії відзначали неготовність Bard до запуску, називаючи бот «патологічним брехуном», «гідним огиди» та «гірше, ніж марним».

Посилаючись на внутрішню документацію та свідчення 18 нинішніх і колишніх співробітників, видання стверджує, що в Google були в курсі щодо незадовільної роботи Bard, але все одно зважилися на реліз.

  • Одне з повідомлень співробітників у внутрішньому чаті з 7000 учасників було таким: «Bard гірший, ніж марний: будь ласка, не запускайте» – багато хто погодився з цією оцінкою.
  • Інший співробітник звертався до Bard з питанням про те, як посадити літак – бот регулярно давав відповіді, які могли б призвести до падіння.
  • Також він давав відповіді про підводне плавання з аквалангом, які «ймовірно призведуть до серйозних травм чи смерті».

Попри прохання та зауваження співробітників, Google «скасував оцінку ризику», представлену внутрішньою командою безпеки, яка попереджала, що Bard не готовий до випуску.

Джерела Bloomberg кажуть, що Google, прагнучи не відставати від конкурентів, пропонує низькоякісну інформацію та мало приділяє уваги етичним нормам. Стверджується, що співробітникам, відповідальним за безпеку та етичні наслідки нових продуктів, було наказано триматися якомога далі від розробки генеративного ШІ.

  • Google звільнив дослідника ШІ Тімніт Гебру у 2020 році після того, як вона написала дослідницьку роботу про неетичність мовних систем ШІ.
  • Маргарет Мітчелл, одну з керівників команди з етичності ШІ, яка написала статтю в тому ж дусі, було звільнено через за кілька місяців через звинувачення у неправомірній поведінці.

Google відчутно відстає у сфері генеративного ШІ від основного конкурента, Microsoft. Інтеграція штучного інтелекту в Bing не тільки призвела до зростання аудиторії браузера понад 100 млн активних користувачів на день, але й змусила Samsung розглянути можливість переходу з пошуку Google на Bing у своїх пристроях.

Disqus Comments Loading...