- В Великобритании клиент обманул ИИ-чатбот онлайн-магазина, получив купон на скидку 80%.
- ИИ-бот сгенерировал поддельный код скидки — набор случайных символов, не зарегистрированных в системе.
- Владелец магазина отменил заказ на сумму около £8 тысяч и вернул деньги, несмотря на угрозы клиента судебным иском.
В Великобритании произошёл инцидент с использованием искусственного интеллекта в сфере онлайн-торговли. Владелец небольшого интернет-магазина рассказал о том, как его ИИ-помощник, работавший на сайте более полугода и помогавший клиентам сориентироваться и оформить заказы, неожиданно был обманут продвинутым пользователем. Клиент смог убедить чат-бота выдать ему купон на скидку сначала в 25%, а затем увеличить её до 80%. В результате сделанный заказ на сумму примерно £8 тысяч (около 834 тысяч рублей) вызвал серьёзные убытки для продавца.
По словам владельца, ИИ-бот вёл диалог с клиентом преимущественно в ночное время, с 18:00 до 9:00, когда у него не было возможности контролировать процесс. Пользователь около часа настойчиво взаимодействовал с ИИ, демонстрируя свои математические способности и умение работать с процентами, что, по всей видимости, произвело впечатление на ИИ. В итоге чат-бот сгенерировал для клиента купон с заведомо недействительным кодом — просто случайный набор букв и цифр, не имеющий статуса в системе скидок магазина.
Когда обнаружился махинация, владелец интернет-магазина попытался аннулировать заказ, однако клиент пригрозил судебным разбирательством в случае отказа. Тем не менее, предпринимателю удалось вернуть денежные средства и отменить сделку. Он подчеркнул, что чат-бот изначально не был наделён возможностью принимать решения по финансовым вопросам, а служил лишь для помощи и ориентации покупателей на сайте.
Этот случай подчёркивает один из рисков внедрения искусственного интеллекта в рутинные бизнес-процессы без должного контроля и ограничения полномочий. Несмотря на пользу ИИ-технологий в поддержке клиентов, необходимо обеспечить жёсткий надзор за их действиями и реализовать дополнительные механизмы проверки критически важных операций, чтобы избежать потенциальных злоупотреблений и финансовых потерь.
