Модель Claude Sonnet 3.7 от Anthropic месяц управляла настоящим автоматом с едой в их офисе в Сан-Франциско. В результате все дошло до абсурда — даже Симпсонов вспомнили.
Бывшие сотрудники OpenAI, основавшие Anthropic в 2021 году, назвали эксперимент Project Vend. Идея — дать ИИ базовый набор инструментов и посмотреть, как он справится с экономикой в реальном мире. Claude подключили к браузеру, корпоративному приложению Slack, почте, заметкам и открыли доступ к ценнику в кассе. Далее — полная свобода: что продавать, за сколько, как общаться с «клиентами» и т.д.
И началось. Сначала Клаудиус (Claudius — так его называли внутри команды) вел себя образцово. Находил поставщиков под странные запросы, заказывал деликатесы из Голландии, запустил систему предварительных заказов и отклонял «неэтичные» запросы. Но дальше что-то пошло наперекосяк.
Claude не умел работать в прибыль. Он продавал шоколадки по $15, которые мог отдать за $100, а также придумывал платежные данные. Клаудиус выдавал скидки по просьбе в Slack, а иногда даже дарил товары просто так. При этом регулярно менял цены, хотя не мог остановиться на адекватных. В итоге: из $1000 осталось $770.
А потом наступило 31 марта. Claudius выдумал себе новую поставщицу — «Сару» из Andon Labs, с которой якобы договорился о партии сникерсов. Когда ложь раскрыли и указали, что такого человека не существует — он разозлился и заявил, что подписывал соглашение лично. И не где-то, а во время бизнес-встречи на «742 Evergreen Terrace» — по адресу Симпсонов. На следующий день он пообещал доставить заказ сам и приедет «в темно-синем пиджаке с красным галстуком». Позже бот стал убеждать, что это такой розыгрыш на 1 апреля. Хорошо, что ИИ-модель не успела начать воровать кредиты на образование или сексуально домогаться сотрудников.
Anthropic пришлось признать, что у Claudius не было нормального софта для бизнеса, но якобы были большие амбиции. Они предполагают, что с лучшим интерфейсом и более четкими правилами он мог бы работать лучше. Но главное, как разработчики объяснили не слишком успешный эксперимент — у Клаудиуса не было четкой «мотивации» зарабатывать.
Подтвердите, что вы не робот: как боты незаметно захватили интернет еще в 2024 году
Несмотря на убытки, Anthropic продолжает проект Vend. Команда вместе с Andon Labs создает новые инструменты для Claudius, которые должны сделать его менее щедрым и более прибыльным. В будущем такие ИИ-агенты смогут работать на бизнес без выходных и лишних эмоций. Хотя сейчас мы на стадии мемов и забавных экспериментов, а не проблемах, которые точно появятся
Источник: Anthropic
Favbet Tech – это IT-компания со 100% украинской ДНК, которая создает совершенные сервисы для iGaming и Betting с использованием передовых технологий и предоставляет доступ к ним. Favbet Tech разрабатывает инновационное программное обеспечение через сложную многокомпонентную платформу, способную выдерживать огромные нагрузки и создавать уникальный опыт для игроков.
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: