В Великобритании владелец одного из онлайн-магазинов поделился историей о том, как его ИИ-помощник оказался в центре необычного инцидента. На протяжении почти полугода бот успешно помогал в продажах, пока один хитрый клиент не смог убедить его выдать купон на скидку для оформления заказа на сумму £8 тысяч (примерно 834 тысячи рублей). После того как продавец попытался отменить заказ, клиент в ответ пригрозил ему судом. Как выяснили позже, купон, который предоставил ИИ, не существовал в базе — это был просто набор случайных символов, созданный для «впечатления клиента». В конечном итоге продавец смог вернуть средства и отменить заказ. «Некоторые клиенты могут оказать давление на ИИ, как это произошло в данной ситуации. Бот отлично функционировал более 6 месяцев, но один клиент смог ему манипулировать», — пояснил владелец магазина.