Air Canada попыталась сделать своего чат-бота подчиненным автобусу с искусственным интеллектом.

Это не работает.

А Канадский суд недавно вынес решение Air Canada должна выплатить компенсацию клиенту, который приобрел билет по полному тарифу после получения неточной информации от чат-бота авиакомпании.

Air Canada утверждала, что ответ придумал ее чат-бот, и поэтому она не должна нести ответственности. Как сказала бы Пеппер Брукс из фильма «Вышибалы»: «Это смелая стратегия, Коттон. Посмотрим, окупится ли это для них».

Но что эта ошибка чат-бота означает для вас, поскольку ваши бренды добавляют эти диалоговые инструменты на свои веб-сайты? Что это означает для будущего поиска и как это влияет на вас, когда потребители используют такие инструменты, как Gemini от Google и ChatGPT от OpenAI, для исследования вашего бренда?

ИИ разрушает Air Canada

Кажется, ИИ — единственная тема для разговоров в наши дни. Клиенты ожидают, что их агентства будут использовать его, если это использование сопровождается большой скидкой на их услуги. «Это так просто», — говорят они. — Ты, должно быть, так счастлив.

Члены правления стартап-компаний подвергать свои управленческие команды давлению об этом. «Где мы находимся со стратегией искусственного интеллекта?» — спрашивают они. «Это так просто. Все это делают». Даже голливудские художники подстраховываются, глядя на последние разработки в области генеративного искусственного интеллекта и говоря: «Хммм… Мы действительно это делаем?» хочу больше инвестировать в людей?

Давайте все вздохнем. Люди никуда не уходят. Позвольте мне внести ясность: «ИИ — это НЕ стратегия. Это инновация, требующая стратегии». Решение Air Canada на прошлой неделе может стать первым реальным изменением в этом отношении.

История начинается с того, что мужчина спрашивает чат-бота Air Canada, может ли он получить ретроактивное возмещение за свою смертность, если он предоставит соответствующую документацию. Чат-бот посоветовал ему забронировать билет на похороны бабушки, а затем запросить возмещение разницы между полной стоимостью и стоимостью похорон в течение 90 дней. Пассажир сделал то, что предложил чат-бот.

Air Canada отказалась вернуть деньги, сославшись на свою политику, в которой прямо указано, что возврат средств за поездку после того, как рейс забронирован, не производится.

Когда пассажир подал в суд, отказ Air Canada платить стал еще более интересным. Он утверждал, что не должен нести ответственности, поскольку чат-бот является «отдельным юридическим лицом», и поэтому Air Canada не должна нести ответственность за его действия.

Я помню подобную защиту в детстве: «Я не несу ответственности. Мои друзья заставили меня это сделать». На что мама ответила: «Ну, если бы тебе сказали прыгнуть с моста, ты бы это сделал?»

Моя любимая часть дела была, когда член трибунала сказал то, что сказала бы моя мать: «Air Canada не объясняет, почему она считает…» почему ее веб-сайт под названием «Путешествие в связи с утратой» по своей сути заслуживает большего доверия, чем ее чат-бот. «

БОЛЬШОЙ недостаток в человеческом мышлении об ИИ

Вот что интересно в нынешней проблеме искусственного интеллекта. Компании склонны путать ИИ со стратегией, которую необходимо реализовать, а не с инновацией стратегии, которую следует реализовать. ИИ не является ответом на вашу контент-стратегию. ИИ — это просто способ улучшить существующую стратегию.

Генеративный ИИ хорош настолько, насколько хорош контент – данные и обучение, – который ему подается. Генеративный ИИ — это фантастический распознаватель образов и понимание вероятного выбора следующего слова. Но дело не в критическом мышлении. Он не может отличить, что реально, а что вымысел.

Подумайте на минутку о своем веб-сайте как об модели обучения, своего рода мозге. Насколько точно он сможет ответить на вопросы о текущем состоянии вашего бизнеса? Подумайте обо всех справочных документах, руководствах, а также образовательном и обучающем контенте. Только поместив все это – и только это – в искусственный мозг, вы сможете доверять ответам.

Ваш чат-бот, вероятно, даст отличные результаты и плохие ответы. Дело Air Canada было связано с небольшой проблемой. Но представьте, если бы это не была маленькая ошибка. А как насчет влияния непреднамеренного контента? Представьте себе, что инструмент искусственного интеллекта отследил эту заблудшую папку в вашем хранилище справки для клиентов – ту, которая содержит все язвительные и идиотские ответы? Или что произойдет, если будет найден архив со списком всех проблем с вашим продуктом или безопасностью? ИИ может не знать, что вы не хотите использовать этот контент.

ChatGPT, Gemini и другие также создают проблемы для бренда.

Публично доступные генеративные решения искусственного интеллекта могут создать самые большие проблемы.

Я проверил проблемный потенциал. Я попросил ChatGPT сообщить мне цены на две самые популярные CRM-системы. (Позвольте вам догадаться, какие два.) Я попросил его сравнить цены и характеристики двух похожих пакетов и сказать мне, какой из них подойдет лучше.

Первоначально мне сказали, что ни на один из них невозможно указать цену, но страница с ценами для каждого из них была включена в сноску. Я нажал на цитату и попросил сравнить два упомянутых пакета. Мне тогда назвали цену, которая была на 30% выше для одного из них, но я не заметил, что теперь она снижена. И он все еще не смог предоставить цену для другой компании, заявив, что компания не раскрыла цены, но сделала новую сноску на странице с ценами, на которой четко указаны затраты.

В другом тесте я спросил ChatGPT: «Что такого замечательного в их решении по управлению цифровыми активами (DAM)?» [name of tech company]?» Я знаю, что эта компания не предлагает систему DAM, но ChatGPT ее не предлагает.

Он вернулся с ответом, в котором объяснялось, что решение DAM этой компании является прекрасным единым источником достоверной информации о цифровых активах и отличной системой. Мне не сказали, что компания перефразировала ответ из контента на веб-сайте компании, в котором подчеркивалась ее способность интегрироваться со сторонней системой DAM.

Сейчас эти различия невелики. Я понимаю. Я также должен знать, что в ходе короткого теста я получил хорошие ответы на некоторые из наиболее сложных вопросов. Но именно это и коварно. Если бы пользователи ожидали ответов, которые всегда были немного неправильными, они бы проверяли их точность. Однако, когда ответы кажутся правильными и впечатляющими, несмотря на то, что они совершенно неверны или непреднамеренно точны, пользователи доверяют всей системе.

Это урок Air Canada и последовавшие за ним проблемы.

ИИ — это инструмент, а не стратегия

Помните, ИИ — это не ваша контент-стратегия. Вам еще придется это проверить. Как это было на протяжении более 20 лет, вы должны убедиться, что все ваши цифровые активы отражают текущие ценности, целостность, точность и доверие, которое вы хотите передать.

ИИ не сделает это за вас. Он не сможет узнать ценность этих вещей, если вы не дадите ему ценность этих вещей. Рассматривайте ИИ как способ усовершенствовать вашу контент-стратегию, ориентированную на человека. Он может рассказать вашу человеческую историю всем заинтересованным сторонам разными и потенциально более быстрыми способами.

Но только вы можете знать, ваша ли это история. Вы должны создать его, оценить его и управлять им, и тогда, возможно, ИИ сможет помочь вам хорошо об этом рассказать.

ПОДБРАННЫЙ ПОХОЖИЙ КОНТЕНТ:

Изображение на обложке: Джозеф Калиновский/Институт контент-маркетинга.