«Клиент обманывает ИИ-помощника и получает скидку после часового общения»: ИИ-бот в онлайн-магазине случайно оформил клиенту скидку 80% – мужчина сэкономил 800 тыс рублей.
«Заказ превысил 8 тыс фунтов, а скидка составила 80%. Владельцы малого бизнеса в Англии сообщили, что такой «скидочный код», выданный ИИ-ассистентом, стал для них неожиданной финансовой проблемой. По их словам, чат-бот неправильно сгенерировал промокод или скидочное предложение, которое автоматически применялось в корзине.
Представители компании заявили, что ИИ-ассистент не был запрограммирован на столь большую скидку, и это скорее ошибка генерации данных, а не намеренное предложение. Механизм скидок был «сфабрикован» клиентом через наводящие запросы к ИИ. Предприниматели опасаются, что такие ошибки ИИ могут привести к реальным финансовым потерям, если система оформляет заказы без проверки.»
Статистика голосований по странам
Статистика голосований пользователей
Чтобы оставить комментарии, необходимо авторизоваться. За оскорбления и спам - бан.
4 комментария, показывать
сначала новые
сначала новыесначала старыесначала лучшиеновые - список
сразу видно что этот текст был полностью сгенерирован ИИ. Выдало слово "или" - люди так не говорят о сути.
+0–
ответить
как я понимаю клиента со скидкой побрили. думаю, что суд встал бы на сторону клиента.
+1–
ответить
Повторяется история с Швейцарией, где работников-человеков заменили на ИИ, а те вогнали фирмы в долги и убытки.
+2–
ответить
Ошибка на уровне архитектуры, должна же быть какая-то защита. То есть заказ должен оформляться через внешний по отношению к ИИ-агенту сервис, в котором жёстко прописана минимальная цена
+2–
ответить