На оживленном цифровом рынке 2024 года появляется новая валюта: контент.

Как Недавнее обучение от Google Исследователи предупреждают, что эта валюта может быстро потерять ценность из-за потока материалов, созданных искусственным интеллектом (ИИ), заполонивших Интернет. Последствия для электронной коммерции, цифрового маркетинга и поведения потребителей огромны и могут изменить ландшафт онлайн-бизнеса как продуктивно, так и тревожно.

Исследование, которое в настоящее время ожидает экспертной оценки, рисует мрачную картину текущего состояния онлайн-контента. Согласно их выводам, большинство пользователей генеративного искусственного интеллекта (GenAI) используют эту технологию для создания и распространения искусственного контента в Интернете. Это включает в себя все: от изображений продуктов и обзоров до маркетинговых кампаний и персонажей в социальных сетях.

Палка о двух концах для цифрового бизнеса

Эта тенденция — палка о двух концах для компаний, работающих в цифровом пространстве. С одной стороны, GenAI предлагает беспрецедентные возможности для создания контента и взаимодействия с клиентами. Малые предприятия теперь могут создавать маркетинговые материалы профессионального качества за небольшую часть традиционных затрат, что потенциально ставит их на один уровень с более крупными конкурентами.

Однако распространение контента, созданного ИИ, также представляет собой серьезные проблемы. Поскольку потребители становятся все более скептически настроены в отношении подлинности онлайн-информации, компаниям может оказаться сложнее завоевать доверие своей аудитории. Эта потеря доверия может иметь далеко идущие последствия для электронной коммерции, потенциально влияя на коэффициенты конверсии и лояльность клиентов.

Исследователи выделили несколько ключевых областей, где GenAI используется, чтобы «стирать границы между подлинностью и обманом». К ним относятся создание фальшивых обзоров продуктов, манипулирование изображениями для искажения товаров или услуг, а также создание вводящих в заблуждение или сфабрикованных новостных статей с целью повлиять на мнение потребителей.

Возможно, наибольшую тревогу для сектора электронной коммерции вызывает вывод исследования о том, что значительная часть контента GenAI «используется с очевидным намерением повлиять на общественное мнение, способствовать мошенничеству или мошеннической деятельности или получить прибыль». Это говорит о том, что недобросовестные люди используют GenAI для получения несправедливых преимуществ на цифровом рынке.

Доступность этих мощных инструментов искусственного интеллекта усугубляет проблему. Как отметили исследователи, для функционирования многих систем GenAI теперь требуются «минимальные технические знания», что демократизирует способность создавать убедительный фейковый контент. Эта простота использования привела к увеличению количества материалов, созданных с помощью ИИ, на различных онлайн-платформах, от социальных сетей до сайтов электронной коммерции.

Эта новая реальность представляет собой сложную задачу для авторитетных интернет-магазинов и цифровых брендов.

Как ритейлеры могут сохранить доверие потребителей и дифференцировать свои подлинные предложения от моря потенциально искусственных конкурентов? Некоторые компании используют технологию блокчейна и другие методы проверки, чтобы доказать подлинность своих продуктов и контента. Другие все больше полагаются на персонализированные, ориентированные на человека маркетинговые подходы, которые трудно убедительно воспроизвести с помощью искусственного интеллекта.

Меняющееся поведение потребителей

Влияние на поведение потребителей также является значительным. Исследование предполагает, что распространение контента, генерируемого ИИ, «проверяет способность людей отличать подделки от настоящих». Этот растущий скептицизм может изменить способ взаимодействия потребителей с онлайн-контентом и принятия решений о покупке. Некоторые отраслевые аналитики предсказывают переход к более широкому использованию надежных влиятельных лиц и личных сетей для рекомендаций по продуктам, что потенциально может подорвать текущие стратегии цифрового маркетинга.

Кроме того, исследователи предупреждают о возможной «перегрузке скептицизма», когда потребители перегружаются необходимостью постоянно проверять подлинность онлайн-информации. Это может привести к парадоксальной ситуации, когда некоторые пользователи вообще откажутся от критических обзоров, потенциально становясь более уязвимыми для дезинформации и мошенничества.

Индустрия электронной коммерции уже реагирует на эти вызовы.

Крупные платформы вкладывают значительные средства в инструменты обнаружения искусственного интеллекта и системы модерации контента. Некоторые тестируют использование методов «водяных знаков» для контента, созданного искусственным интеллектом, что позволяет пользователям легко идентифицировать синтетический материал. Однако многие опасаются, что методы обнаружения не смогут идти в ногу с развитием технологий искусственного интеллекта.

Исследование также поднимает важные вопросы о роли крупных технологических компаний в этой развивающейся ситуации. Хотя в исследовании это прямо не упоминается, такие отраслевые гиганты, как Google, находятся в авангарде разработки и внедрения технологий GenAI. Сейчас перед этими компаниями стоит сложная задача найти баланс между инновациями и ответственностью, поскольку они борются с непредвиденными последствиями инструментов, которые они помогли разработать.

По мере развития цифровой экономики GenAI будет играть все более важную роль. Компании, потребители и регулирующие органы сталкиваются с проблемой использования потенциала технологий при минимизации связанных с ними рисков. В эту новую эпоху цифровой коммерции способность преодолевать размытые границы между реальным и искусственным интеллектом может стать решающим фактором успеха.