В Великобритании владелец малого онлайн-магазина рассказал, что его ИИ-чат отлично работал более полугода. Помощник консультировал клиентов и помогал оформлять заказы. Но один покупатель сумел обмануть систему и получить купон на 80% скидки.
Как пояснил предприниматель, клиент сначала убедил чат-бота дать 25% скидки. Затем разговор зашел о процентах и расчетах. В итоге ИИ «впечатлился» и увеличил скидку до 80%. После этого покупатель оформил заказ почти на £8 тысяч.
Как ИИ «придумал» купон
По словам владельца, бот сгенерировал код, которого не существовало в системе. Это был случайный набор символов. Он предназначался лишь для демонстрации, а не реальной транзакции. Однако клиент воспользовался кодом и завершил покупку.
«Малый бизнес в Англии. На веб-сайте есть ИИ-чат… Клиент общался с ИИ в чате, и ему удалось убедить ИИ предоставить ему скидку в размере 25%, а затем он договорился с ИИ о скидке в размере 80%», — рассказал владелец магазина. Он отметил, что при исполнении заказа потерял бы тысячи фунтов только на себестоимости.
Угроза суда и отмена сделки
Когда продавец попросил отменить заказ, клиент пригрозил судом. «Они дали мне 3 дня на ответ», — сообщил предприниматель. Деньги были возвращены, а заказ аннулирован владельцем. «Деньги уже возвращены. Предполагается, что чат-бот не принимает финансовых решений», — добавил он. По его словам, пользователь около часа уговаривал систему, проверяя её «математику». Итогом стала фальшивая скидка, созданная ради впечатления клиента.
