Предвзятость в поиске не всегда отрицательно. Легко сформулировать его как нечто зловещее, но предвзятость появляется по структурным причинам, поведенческим причинам, а иногда как преднамеренный выбор. Реальная задача для маркетологов и коммуникаторов признает, когда это происходит, и что это значит для видимости, восприятия и контроля.
Две недавние произведения заставили меня более глубоко задуматься об этом. Первый — это Дежан Исследование скорости отбора (SR)что подчеркивает, как системы ИИ предпочитают определенные источники по сравнению с другими. Второе — это предстоящая книга Билла Харцера »Бренды в избирательном бюллетенеКоторый вводит концепцию ненутрального брендинга на сегодняшнем поляризованном рынке. Составленные, они показывают, как предвзятость не просто выпекается в алгоритмы; это также неизбежно в том, как бренды интерпретируются аудиторией.
Содержание
Скорость отбора и первичное смещение
Скорость отбора можно рассматривать как процент раз, когда источник выбирается из доступных опций (выбор ÷ параметры × 100). Это не формальный стандарт, а полезный способ проиллюстрировать первичный уклон в поиске ИИ. Дежан отмечает, что, когда систему ИИ задают вопрос, она часто тянет из нескольких источников заземления. Но не все источники выбираются одинаково. Со временем некоторых выбираются снова и снова, в то время как другие едва появляются.
Это основной предвзятость на работе.
Для маркетологов это значение ясно: если ваш контент редко выбирается в качестве источника заземления, вы фактически невидим внутри этой выходной экосистемы ИИ. Если он часто выбирается, вы получаете авторитет и видимость. Высокий SR становится сигналом самостоятельного усылки.
Это не просто теоретическое. Инструменты, такие как недоумение, Bing Copilot и поверхность Близнецов как ответов, так и их источников. Частое цитирование повышает видимость вашего бренда и воспринимаемый авторитет. Исследователи даже придумали термин для того, как эта петля обратной связи может заблокировать в доминировании: Нейронный холПолем В LLM определенные входные данные могут быть укоренились, создавая шаблоны ответов, которые устойчивы к коррекции, даже когда вводятся новые учебные данные или живые подсказки.
Эта концепция не нова. В традиционном поиске страницы с более высоким рейтингом зарабатывают больше кликов. Эти клики отправляют сигналы взаимодействия обратно в систему, что может помочь поддерживать позицию ранжирования. Это та же самая петля обратной связи, просто через другой объектив. SR не создает предвзятости; Он раскрывает это, и независимо от того, пользуется ли вы, зависит от того, насколько хорошо вы структурировали свое присутствие, которое будет извлечено в первую очередь.
Брендинг и реальность интерпретации
Бренды в избирательном бюллетене Образует это как недитральный брендинг: компании не могут избежать интерпретации. Каждое решение, большое или маленькое, читается как сигнал. Это предвзятость на уровне восприятия.
Мы видим это постоянно. Когда Nike показал Колина Каперника, некоторые люди удвоили лояльность, в то время как другие публично сокращали связи. Когда Bud Light сотрудничал с транс -влиянием, Backlash доминировала на National News. Споры Диснея с политиками Флориды по поводу культурной политики стали историей корпоративной идентичности в одночасье.
Ни один из них не был просто «маркетинговыми кампаниями». Каждый читал как культурная позиция. Даже решения, которые кажутся оперативными (на каких платформах, на которых вы рекламируете, на которые вы принимаете спонсорство, которые вы выбираете), интерпретируются как сигналы выравнивания.
Нейтралитет больше не приземляется как нейтральный, что означает, что команды PR и маркетинга должны планировать интерпретацию как часть своей повседневной реальности.
Направленное смещение в качестве полезного объектива
Маркетологи уже практикуют преднамеренное исключение с помощью ICP -таргетинга и позиционирования. Вы решаете, к кому вы хотите достичь, и, соответственно, кого вы этого не делаете. Это не новое.
Но когда вы просматриваете эти варианты через призму предвзятости, это обостряет точку: позиционирование — это смещение с намерениями. Это не скрыто. Это не случайно. Это преднамеренное сужение фокуса.
Вот где возникает идея направленного смещения. Вы можете думать об этом как о другом способе описания таргетинга ICP или позиционирования на рынке. Это не доктрина, просто объектив. Таким образом, ценность в том, что он соединяет то, что маркетологи уже делают с более широким разговором о том, как системы поиска и искусственного интеллекта кодируют предвзятость.
Предвзятость не ограничивается брендингом или ИИ. В течение многих лет мы знали, что рейтинги поиска могут формировать поведение.
А 2024 PLOS ИССЛЕДОВАНИЕ показал, что простое изменение порядка результатов может сдвинуть мнения на целых 30%. Люди доверяют более высоким результатам, даже когда базовая информация такая же.
Фильтруя пузырьки Увеличить этот эффект. Приспосабливая результаты на основе истории, поисковые системы усиливают существующие взгляды и ограничивают воздействие альтернатив.
Помимо этих поведенческих предубеждений лежат структурные. Поисковые системы вознаграждают свежесть, что означает, что сайты ползают и обновляются чаще, часто получают преимущество в видимости, особенно для чувствительных ко времени запросов. Домены верхнего уровня страны (CCTLD), такие как .FR или .jp могут сигнализировать о региональной актуальности, давая им предпочтения в локализованных поисках. И затем есть популярность и предвзятость бренда: устоявшиеся или надежные бренды часто пользуются предпочтениями в рейтинге, даже если их содержание не обязательно сильнее, что затрудняет прорыв более мелких или новых конкурентов.
Для специалистов по маркетингу и PR этот урок одинаков: предвзятость ввода (какие данные доступны о вас) и предвзятость процесса (как системы ранжируются и представляют его) напрямую формируют то, что аудитория считает правдой.
Смещение в выходах LLM
Большие языковые модели вводят новые слои смещения.
Данные обучения редко сбалансированы. Некоторые группы, голоса или перспективы могут быть перепредставлены, в то время как другие отсутствуют. Это формирует ответы, которые дают эти системы. Программная конструкция добавляет еще один слой: смещение подтверждения и смещение доступности может ползти в зависимости от того, как задается вопрос.
Недавние исследования показывают, насколько это может стать грязно.
- Исследователи MIT обнаружил, что даже порядок документов, поданных в LLM, может изменить результат.
- Газета природы 2024 года Каталог различных типов смещения, отображаемых в LLMS, от пробелов представления до культурного обрамления.
- Исследование PNAS подтвердил, что даже после настройки справедливости неявные смещения все еще сохраняются.
- Livescience сообщил что новые чат -боты имеют тенденцию упрощать научные исследования, засушивая критические детали.
Это не личные выводы. Они показывают, что предвзятость в ИИ не является краем; Это дефолт. Для маркетологов и коммуникаторов дело не в том, чтобы овладеть наукой; Понимание того, что выходы могут исказить вас, если вы не формируете то, что тянутся в первую очередь.
Сотащите нити вместе
Скорость отбора Показывает нам предвзятость в работе внутри систем поиска ИИ. Брендинг показывает нам, как предвзятость работает на рынке восприятия. Направленное предвзятость — это способ соединить эти реалии, напомнив нам, что не все предвзятость является случайным. Иногда он выбирается.
Ключ не притворяться, что предвзятость не существует; Конечно, это так. Это признать, происходит ли это с вами пассивно, или вы применяете его активно и стратегически. И маркетологи, и специалисты по PR здесь играют свою роль: один в извлекаемых активах здания, другой в формировании устойчивости повествования. (PS: ИИ не может действительно заменить человека для этой работы.)
Итак, что вы должны с этим делать?
Понять, где предвзято
В поисках предвзятость раскрывается с помощью исследований, аудитов и тестирования SEO. В ИИ это раскрывается исследователями, которые изучают результаты со структурированными подсказками. В брендинге это раскрывается в реакции клиентов. Ключ — это знание того, что предвзятость всегда где -то проявляется, и если вы не ищете его, вам не хватает критических сигналов о том, как вас воспринимают или получают.
Признайте, кто скрывает предвзятость
Поисковые системы и поставщики LLM не всегда раскрывают, как взвешенные выборы. Компании часто требуют нейтралитета, даже когда их выбор говорит иначе. Скрытие предвзятости не заставляет его уйти; Это затрудняет решение и создает больший риск, когда в конечном итоге появляется. Если вы не прозрачны в своей позиции, кто -то другой может определить ее для вас.
Рассматривать предвзятость как ясность
Вам не нужно создавать свое позиционирование как «наш направленный предвзятость». Но вы должны признать, что когда вы выбираете ICP, ремесленные сообщения или оптимизируете контент для поиска ИИ, вы делаете преднамеренный выбор в отношении включения и исключения. Ясность означает принятие этих вариантов, измерение их воздействия и владение установленным вами направлением. В этом разница между формированием смещения и формированием предвзятости.
Примените дисциплину к вашему AI Print
Подобно тому, как вы формируете позиционирование бренда с намерениями, вам нужно решить, как вы хотите появиться в системах ИИ. Это означает публикацию контента способами, которые можно найти, структурировать с маркерами доверия и соответствовать вашей желаемой позиции. Если вы не управляете этим активно, ИИ все равно будет выбирать о вас; Они просто не будут выбора, с которыми вы контролировали.
Последняя опасность рассмотреть
Предвзятость на самом деле не злодей. Скрытый предвзятость есть.
В поисковых системах, в системах ИИ, и на рынке предвзятость — дефолт. Ошибка не имеет этого. Ошибка заключается в том, чтобы позволить ему формировать результаты, не осознавая, что она там. Вы можете либо определить свой предвзятость с намерениями, либо оставить его на случайность. Один путь дает вам контроль. Другой оставляет ваш бренд и бизнес во власти того, как другие решают интерпретировать вас.
И вот мысль, которая пришла мне в голову во время работы через это: что, если само смещение может быть превращено в вектор атаки? Я уверен, что это не свежая идея, но давайте все равно проведем ее. Представьте себе, что конкурент засевает достаточно контента, чтобы создать вашу компанию в определенном свете, так что, когда LLM сжимает эти входные данные в ответ, их версия вас — это то, что появляется. Им даже не нужно будет назвать вас напрямую. Просто опишите вас достаточно хорошо, чтобы система установила соединение. Здесь тоже не нужно пересекать какие-либо юридические линии, так как сегодняшние LLM действительно хороши в догадке бренда, когда вы просто описываете их логотип или известную черту на общем языке.
Требующая часть заключается в том, насколько это правдоподобно. LLMS не проверяйте факт в традиционном смысле; Они сжимают шаблоны из доступных им данных. Если шаблоны искажены, потому что кто -то преднамеренно формировал повествование, результаты могут отражать этот перекос. По сути, «версия» вашего конкурента вашего бренда может стать описанием «по умолчанию», которые пользователи видят, когда они спрашивают систему о вас.
Теперь представьте, что это происходит в масштабе. Шеплевая кампания в Интернете не должна иметь тенденции, чтобы оказывать влияние. Он просто должен существовать в достаточных местах, в достаточных вариациях, чтобы модель ИИ рассматривает ее как консенсус. После того, как он запечен в ответы, пользователям может быть трудно найти вашу сторону истории.
Я не знаю, является ли это фактический краткосрочный риск или просто эксперимент по мысли, но стоит спросить: вы бы были готовы, если кто-то попытается переопределить ваш бизнес таким образом?
Больше ресурсов:
Этот пост был первоначально опубликован Duane Forrester DecodesПолем
Показанное изображение: коллагера/shutterstock
