Британский пользователь выпросил у ИИ-бота из онлайн-магазина скидку аж на 80%, после чего пошел сделать заказ на сумму 8000 фунтов стерлингов (около ₴500 000).
Владелец магазина на Reddit в шоке рассказал историю, как кто-то решил показать мастер-класс использования промтов. По его словам, речь идет о чатботе на основе искусственного интеллекта, который помогает клиентам ориентироваться на сайте. Его можно использовать для регистрации заказов и сбора контактной информации от пользователей.
Однако один из клиентов во время разговора сумел убедить ИИ-бота предоставить сначала 25% скидки, а затем договорился о снижении цены до 80%. После этого он разместил заказ примерно на ₴500 000. Владелец, заметив невиданную щедрость, сообщил пользователю о намерении отменить покупку. В ответ клиент заявил, что обратится в суд, если магазин не выполнит заказ.
Несмотря на угрозы, владелец магазина все же повернул средства. Он объяснил свою позицию тем, что чатбот не должен принимать финансовые решения. Его задача — отвечать на вопросы клиентов с 18:00 до 9:00, когда работников нет рядом.
«Он работал хорошо более 6 месяцев. Затем этот парень час общался с ним, уговорил его показать, насколько он хорошо разбирается в математике и процентах, перевел тему на скидки с теоретического заказа, а потом сделал вид, что он поражен», — рассказывает мужчина.
То есть парень заставил ИИ решать математические вопросы о процентах, а затем попросил применить их к теоретическому заказу. Параллельно клиент использовал фразы: «Ты действительно умный?» и «Держу пари, ты не умеешь решать математические задачи». В результате долгого разговора, ИИ сгенерировал ему полностью фальшивый код скидки. Еще позже бот уменьшил стоимость товаров до 80%, пытаясь задобрить его.
Несмотря на угрозы пойти в суд, некоторые в комментариях считают, что сгенерированный код скидки вряд ли можно считать действительным. Однако другой пользователь вспомнил подобную историю из Канады, когда суд встал на сторону бота. ИИ от Air Canada сообщил клиенту, что тот получит полное возмещение за семейную поездку из-за потери близкого человека. Фактически условия перелета запрещали это, но пассажир все равно выиграл. Суд постановил, что бот является представителем компании, и поэтому его решения следует считать официальными.
Сейчас владелец магазина не обновлял историю, относительно следующих шагов клиента. Существует шанс, он сможет избежать проблем, как отмечают в обсуждении, поскольку договор продажи не считается действительным до момента отправки. Однако по закону, если ИИ-бота вписывают как представителя компании, он может принимать подобные решения. Даже, если они заставят человека закрыть свой бизнес и подать на банкротство.
Сообщить об опечатке
Текст, который будет отправлен нашим редакторам: