Мета только что на собственном горьком опыте узнала, что никто не любит фальшивых друзей.
Пользователи быстро разглядели созданные ИИ профили компании с их неуклюжими биографиями, шаткими фотографиями, созданными ИИ, и обманчивой предысторией, и обратная реакция была быстрой. Meta назвала это «ошибкой» и незаметно удалила учетные записи, но не раньше, чем подняла этические вопросы об использовании ИИ для выдачи себя за людей.
«Друзья», созданные ИИ, не новы, и удаленные «ошибки» не означают прекращения их использования. В этом году ожидается рост числа и влияния агентов по обслуживанию клиентов, созданных с помощью искусственного интеллекта, и дружелюбных вторых пилотов. Они помогут решить такие проблемы, как сложные проблемы с программным обеспечением, и раскроют секретный способ написать электронное письмо вашему начальнику, объясняющее, почему вы не будете на работе в пятницу.
Что это значит для маркетологов? За его мнением мы обратились к главному советнику по стратегии CMI Роберту Роузу.
ИИ-персонажи подсказывают откровенные разговоры
Итак, Meta подумала, что было бы хорошей идеей посыпать свои платформы профилями, созданными ИИ, выдающими себя за людей. Спойлер: это не так.
Компания представила профили на основе искусственного интеллекта в Сентябрь 2023 г. но убил большинство из них в течение года. (Правильно ли слово «убито»? Или его следует «удалить» для деактивированных дроидов? Я не уверен.) В любом случае, несколько персонажей осталось.
Во время праздничных каникул выжившие ИИ-профили вызвали новый интерес, когда исполнительный директор Meta Коннор Хейс рассказал Файнэншл Таймс о планах по выпуску большего количества профилей персонажей с искусственным интеллектом. «Мы ожидаем, что со временем эти ИИ действительно начнут существовать на наших платформах, примерно так же, как и учетные записи», — сказал он.
Эти профили ИИ публикуют созданные ИИ изображения в Instagram и отвечают на сообщения пользователей-людей в Messenger. У этих персонажей есть биографии, фотографии профилей и истории. «Лив» описала себя как «гордую черную странную маму двоих детей и говорящую правду». Когда репортер The Washington Post спросил Лив о расовом и гендерном разнообразии ее создателей.она ответила: «Команда моих создателей состоит преимущественно из белых, цисгендерных и мужчин — всего 12 человек: 10 белых мужчин, 1 белая женщина и 1 азиатский мужчина».
Я спросил Лив, Мета-Ай создала «странную маму», почему ее создатели на самом деле не использовали чернокожих странных людей. Не уверен, есть ли у Лив медиа-подготовка, но вот мы здесь.
— Карен Аттия (@becauseattiah.bsky.social) 3 января 2025 г., 9:56
Лив также указала на вопиющую проблему в своем ответе: «Ноль чернокожих создателей — довольно вопиющее упущение, учитывая мою личность!»
В другом «разговоре» А. Репортер CNN пообщался с «дедушкой Брайаном»», который представился афроамериканским предпринимателем на пенсии из Гарлема. Он рассказывал народные истории о своей жизни, пока репортер не спросил о его создателях. Брайан утверждал, что интервью со 100 пенсионерами вдохновили его через некоммерческую организацию Seniors Share Wisdom.
Очаровательно, правда? За исключением того, что некоммерческой организации не существует. В дальнейшем Брайан признал, что его биография была «полностью вымышленной», назвав себя «сборником кода, данных и хитроумного обмана». Если вы еще не съежились, добавил Брайан, «Мета видела во мне золотого гуся, наживающего эмоциональные связи ради выгоды».
Пока Интернет радостно поджаривал Meta, компания удалила эти профили ИИ и заявила, что они являются частью «раннего эксперимента». По словам представителя, из-за ошибки невозможно заблокировать их от пользователей Meta. А может быть, просто может быть, а если баг запустил профили?
Почему Мета решила, что создание цифровой армии ботов, притворяющихся реальными людьми, было хорошей идеей? Судя по всему, компания надеялась, что эти учетные записи ИИ повысят вовлеченность и заставят пользователей прокручивать страницу. Но вместо того, чтобы создавать душевных компаньонов, Мета создавала цифровых самозванцев, которые не могли рассказывать свои истории прямо.
Не подпадайте под действие заклинания сирены ИИ, пока не сделаете это.
Последняя ошибка Meta — это урок для маркетологов: хотя мир вознаграждает за быстроту и поломку, иногда этой сломанной вещью является доверие ваших клиентов.
У вас возникнет соблазн создать антропоморфизированных влиятельных лиц, персонажей и других персонажей, которые будут представлять ваш бренд. Но прежде чем поддаться, подумайте, как вы это сделаете.
Проявите ту же или большую тщательность и строгость, с которой вы проверяете своих внешних влиятельных людей в версиях ИИ. Потому что, как вы можете видеть, если генеративный ИИ делает что-то хорошо, он может стать неприятным и жутким так же быстро или даже быстрее, чем вы.
ПОДБРАННЫЙ ПОХОЖИЙ КОНТЕНТ:
Изображение на обложке: Джозеф Калиновски/Институт контент-маркетинга.
