Bard — новая ИИ-технология Google — дала ложный ответ в демонстрации, чем повлекла за собой масштабное падение акций Alphabet.
В понедельник Google анонсировала свой ИИ чат-бот Bard — конкурента ChatGPT от OpenAI — который будет доступен в ближайшие недели. Однако в рекламном видео технология допустила ошибку, предоставив ложную информацию как результат запроса.
Google опубликовала GIF, на котором чат-бот отвечает на вопрос: «О каких новых открытиях космического телескопа Джеймса Уэбба я могу рассказать своему 9-летнему ребенку?». Bard предложил три варианта, среди которых утверждение о том, что телескоп «сделал первые фотографии планеты за пределами Солнечной системы».
На презентацию сразу отреагировали астрономы, которые написали в соцсетях, что первый снимок экзопланеты был сделан еще в 2004 году. Это подтверждает и статья, опубликованная на сайте NASA.
«Уверен, что Bard нас еще поразит, но для протокола: JWST не сделал «первое изображение планеты за пределами нашей Солнечной системы», — написал в Twitter астрофизик Грант Трембле.
Брюс Макинтош, директор обсерватории Калифорнийского университета, также указал на ошибку:
«Говорю, как человек, который фотографировал экзопланету за 14 лет до запуска JWST. Вам не кажется, что можно найти пример получше?
Как правильно подметил Трембле в следующих твитах, основной проблемой чат-ботов с искусственным интеллектом, таких как ChatGPT и Bard, является их склонность уверенно предоставлять неверную информацию как факт. Чат-боты часто «галюцинируют» — то есть придумывают данные — поскольку они, по сути, являются системами автозаполнения.
Конечно, в интернете уже есть массивы ложной информации, но проблема усложняется желанием Microsoft и Google использовать эти инструменты как поисковые системы — где ответы чат-ботов приобретают авторитет «всезнающей машины».
Microsoft, на днях продемонстрировавшая свою новую поисковую систему Bing на основе ИИ, пыталась устранить эти проблемы, возложив ответственность на пользователя.
«Bing работает на основе искусственного интеллекта, поэтому возможны неожиданности и ошибки. Обязательно проверяйте факты и делитесь отзывами, чтобы мы могли учиться и совершенствоваться!», — говорится в сообщении Microsoft.
Представительница Google Джейн Парк в свою очередь говорит:
«Это подчеркивает важность тщательного тестирования, которое мы начинаем на этой неделе. Мы объединим внешние отзывы с нашим собственным внутренним тестированием, чтобы убедиться, что ответы Bard соответствуют высокой планке качества, безопасности и обоснованности реальной информации».
Рекламное видео с ошибкой просмотрели 1,6 млн человек в Twitter. А через некоторое время после его публикации акции Alphabet упали на 9%, а рыночная стоимость снизилась на $100 млрд. В прошлом году акции материнской компании Google потеряли 40% своей стоимости, но выросли на 15% с начала этого года (без учета потерь в среду).
Bard is an experimental conversational AI service, powered by LaMDA. Built using our large language models and drawing on information from the web, it’s a launchpad for curiosity and can help simplify complex topics → https://t.co/fSp531xKy3 pic.twitter.com/JecHXVmt8l
— Google (@Google) February 6, 2023