Поисковые системы ИИ и чат -боты часто предоставляют неправильные ответы и составляют ссылки на статьи, согласно новому исследованию Columbia Journalism Review.

Почему мы заботимся. Инструменты поиска искусственного интеллекта увеличили соскабливание вашего контента, чтобы они могли служить ответам своим пользователям, часто не приводя к кликам на ваш веб -сайт. Кроме того, скорости кликов из поиска ИИ и чат-ботов намного ниже, чем поиск в Google, в соответствии с отдельным, не связанным исследованием. Но галлюцинирующие цитаты усугубляют уже плохую ситуацию еще хуже.

Числами. Более половины ответов от Близнецов и Грока 3 цитируют изготовленные или сломанные URL -адреса, которые привели к страницам ошибок. Кроме того, согласно исследованию:

• В целом, чат -боты предоставили неверные ответы на более чем 60% запросов:
  • Grok 3 (самый высокий уровень ошибок) неправильно ответил на 94% запросов.
  • Близнецы предоставили только полностью правильный ответ в один раз (в 10 попытках).
  • Недостаток, который имел самый низкий уровень ошибок, неправильно ответил на 37% запросов.

Что они говорят. Авторы исследования (Клаудия Джаньска и Айсваря Чандрасекар), которые также отметили, что «несколько чат -ботов, казалось, обходили предпочтения протокола отчуждения робота», подытожилось таким образом:

«Результаты этого исследования тесно связаны с теми, которые изложены в нашем предыдущем ЧАТГПТ ИССЛЕДОВАНИЕопубликовано в ноябре 2024 года, которая выявила последовательные закономерности между шаботами: уверенные представления о неправильной информации, вводящие в заблуждение атрибуты синдицированному контенту и непоследовательные методы поиска информации. Критики генеративного поиска, таких как Чираг Шах и Эмили М. Бендер, выразили существенные опасения по поводу использования больших языковых моделей для поиска, отмечает что они убирают прозрачность и агентство пользователей, еще больше усиливают проблемы, связанные с предвзятостью в [information access] Системы, и часто предоставляют незаземленные и/или токсичные ответы, которые могут остаться без контроля типичным пользователем ».

О сравнении. В этом анализе 1600 запросов сравнивались способность генеративных инструментов ИИ (поиск CHATGPT, недоумение, Pusplexity Pro, DeepSeek Search, Microsoft Copilot, поиск Grok-2 и Grok-3 и Google Gemini), чтобы определить заголовок статьи, оригинальный издатель, дата публикации и URL, основанные на прямых экспертах из 10 арт, выбранных в 20-м изданных.

Изучение. Поиск искусственного интеллекта имеет проблему цитирования