Британський користувач випросив у ШІ-бота з онлайн-магазину знижку аж на 80%, після чого пішов зробити замовлення на суму 8000 фунтів стерлінгів (близько ₴500 000).
Власник магазину на Reddit у шоці розповів історію, як хтось вирішив показати майстер-клас використання промтів. За його словами, мовиться про чатбота на основі штучного інтелекту, який допомагає клієнтам орієнтуватися на сайті. Його можна використовувати для реєстрації замовлень та збору контактної інформації від користувачів.
Однак один з клієнтів під час розмови зумів переконати ШІ-бота надати спершу 25% знижки, а згодом домовився про зниження ціни аж до 80%. Після цього він розмістив замовлення приблизно на ₴500 000. Власник, помітивши небачену щедрість, повідомив користувачу про намір скасувати покупку. У відповідь клієнт заявив, що звернеться до суду, якщо магазин не виконає замовлення.
Попри погрози, власник магазину все таки повернув кошти. Він пояснив свою позицію тим, що чатбот не повинен приймати фінансові рішення. Його задача — відповідати на запитання клієнтів з 18:00 до 9:00, коли працівників немає поруч.
“Він працював добре понад 6 місяців. Потім цей хлопець годину спілкувався з ним, вмовив його показати, наскільки він добре розбирається в математиці та відсотках, перевів тему на знижки з теоретичного замовлення, а потім вдав, що він вражений”, — розповідає чоловік.
Тобто хлопець змусив ШІ розв’язувати математичні питання про відсотки, а потім попросив застосувати їх до теоретичного замовлення. Паралельно клієнт використовував фрази: “Ти справді розумний?” та “Б’юся об заклад, ти не вмієш розв’язувати математичні задачі”. У результаті довгої розмови, ШІ згенерував йому повністю фальшивий код знижки. Ще пізніше бот зменшив вартість товарів до 80%, намагаючись задобрити його.
Попри погрози піти до суду, деякі у коментарях вважають, що згенерований код знижки навряд чи можна вважати дійсним. Однак інший користувач згадав подібну історію з Канади, коли суд встав на бік бота. ШІ від Air Canada повідомив клієнту, що той отримає повне відшкодування за сімейну поїздку через втрату близької людини. Фактично умови перельоту забороняли це, але пасажир все одно виграв. Суд постановив, що бот є представником компанії, і тому його рішення слід вважати офіційними.
Наразі власник магазину не оновлював історію, щодо наступних кроків клієнта. Існує шанс, він зможе уникнути проблем, як наголошують в обговоренні, оскільки договір продажу не вважається дійсним до моменту відправлення. Однак за законом, якщо ШІ-бота вписують як представника компанії, він може приймати подібні рішення. Навіть, якщо вони змусять людину закрити свій бізнес та подати на банкрутство.
Повідомити про помилку
Текст, який буде надіслано нашим редакторам: