Google AI пообещал покупательнице скидку, и она пришла за ней в магазин, вооружившись скринами

Именно такой конфликт описал менеджер магазина на Reddit. Покупательница хотела воспользоваться price match — магазин действительно сравнивал цены конкурентов, но с исключениями. Её товар как раз под одно из них попадал. Тогда женщина показала сотруднику AI-ответ Google, где утверждалось обратное.

Когда менеджер объяснил, что информация ошибочная, клиентка не поверила: по её логике, ИИ просто собирает сведения из правильных источников и поэтому должен знать правила магазина.

После этого она потребовала позвать менеджера.

Автор поста и был менеджером.

Теперь у клиента появился очень уверенный «эксперт»

Случай невозможно независимо подтвердить у самого магазина, поэтому это всё ещё анонимная история Reddit.

Но обсуждение быстро наполнилось похожими примерами. Один сотрудник рассказал о покупателях, которым Google AI сообщил неправильную информацию о налоге с продаж. Другой пользователь, работающий в национальном парке, утверждает, что турист спорил с ним из-за запрета дронов: ChatGPT якобы разрешил полёт, хотя официальный сайт парка говорил обратное. Владелец магазина крафтового пива написал, что ИИ регулярно отправляет к нему людей за товарами, которых тот никогда не продавал.

Это не статистика и не доказательство массового явления. Но конфликт новый и очень понятный.

Раньше ошибочный совет знакомого звучал как: «Мне сказали, что у вас должна быть скидка».

Теперь он появляется аккуратным абзацем на экране, написан уверенным языком и иногда даже сопровождается ссылками.

Выглядит почти как документ.

Документом от этого не становится.

ИИ может не просто ошибиться, а красиво объяснить ошибку

Такие ответы обычно называют «галлюцинациями». NIST использует более точный термин — confabulation: генеративная система уверенно выдаёт ошибочную или полностью ложную информацию. Причём вместе с неправильным ответом модель способна придумать вполне убедительную логику или ссылки, которые дополнительно повышают доверие пользователя.

Google отдельно предупреждает пользователей AI Overviews, что ответы могут содержать ошибки, и советует проверять важную информацию по нескольким источникам.

То есть ситуация на кассе получилась особенно абсурдной: покупательница доверяла AI-ответу сильнее, чем человеку, который буквально управлял магазином.

А если такое произойдёт в России?

Здесь полезно запомнить довольно простую иерархию.

Если нейросеть рассказывает вам о скидке, возврате, банковском тарифе, правилах авиакомпании или государственной услуге, сам ответ ИИ лучше воспринимать как подсказку, где искать информацию, а не как источник правила.

В России продавец обязан сам предоставлять покупателю необходимую и достоверную информацию о товарах и услугах. За ненадлежащую информацию предусмотрена ответственность.

Из этого следует практическое правило: если AI-summary противоречит официальному сайту компании, договору, опубликованным условиям акции или законодательству, скриншот нейросети сам по себе не превращает придуманное условие в обязанность магазина.

Поэтому лучший вопрос к ИИ в такой ситуации звучит не «какие у них правила?».

А «покажи, где это написано на официальном сайте».

Похоже, у сотрудников сферы услуг появляется новая часть работы.

Не только объяснять клиентам правила.

Но иногда ещё и объяснять их телефонам.