У чат-ботов с искусственным интеллектом могут возникнуть проблемы с галлюцинацией вымышленной информации, но новые исследования показали, что они могут быть полезны для борьбы с необоснованными и галлюцинаторными идеями в человеческом сознании. У ученых из Массачусетского технологического института Слоана и Корнелльского университета есть один Бумага В Наука Она утверждает, что общение с чат-ботом, основанным на большой языковой модели (LLM), снижает веру в заговор примерно на 20%.

Чтобы увидеть, как чат-бот с искусственным интеллектом может влиять на конспирологическое мышление, ученый попросил 2190 участников обсудить теории заговора с чат-ботом, использующим модель OpenAI GPT-4 Turbo. Участников попросили описать теорию заговора, которую они сочли правдоподобной, включая причины и доказательства, которые, по их мнению, поддерживали ее. Чат-бот, которого попросили быть убедительным, предоставил ответы, соответствующие этим деталям. Когда они разговаривали с чат-ботом, он предоставлял индивидуальные контраргументы, основанные на мнениях участников. Исследование решило извечную проблему галлюцинаций искусственного интеллекта: профессиональный проверяющий факты оценил 128 утверждений, сделанных чат-ботом во время исследования. Утверждения были точными на 99,2%, что, по словам исследователей, связано с обширной онлайн-документацией теорий заговора, содержащейся в данных обучения модели.

Идея использования ИИ для разоблачения теорий заговора заключалась в том, что его глубокие информационные резервы и адаптируемые разговорные подходы могли бы дойти до людей за счет персонализации подхода. Судя по последующим отзывам через десять дней и два месяца после первого разговора, это сработало. Большинство участников меньше верили в теории заговора, которые они поддерживали – «от классических заговоров, связанных с убийством Джона Ф. Кеннеди, инопланетян и иллюминатов, до заговоров, касающихся текущих событий, таких как COVID-19 и президентские выборы в США 2020 года», — сказал он. исследователи. найденный.

Фактбот-развлечение

Результаты удивили исследователей, которые предполагали, что люди в основном не реагируют на основанные на фактах аргументы в пользу разоблачения теорий заговора. Напротив, это показывает, что хорошо спроектированный чат-бот с искусственным интеллектом может эффективно представлять контраргументы, что приводит к измеримому изменению убеждений. Они пришли к выводу, что инструменты ИИ могут быть полезны в борьбе с дезинформацией, но с осторожностью, поскольку они также могут еще больше ввести людей в заблуждение с помощью дезинформации.

Исследование подтверждает ценность проектов со схожими целями. Например, веб-сайт проверки фактов Snopes недавно выпустил инструмент искусственного интеллекта под названием FactBot, цель которого — помочь людям выяснить, правда ли то, что они слышали, или нет. FactBot использует архив Snopes и генеративный искусственный интеллект, чтобы отвечать на вопросы без необходимости сканировать статьи, используя более традиционные методы поиска. В это время Вашингтон Пост созданный Климатические ответы стремится прояснить путаницу в отношении изменения климата, полагаясь на свою климатическую журналистику, чтобы ответить на вопросы непосредственно по этой теме.

«Многие люди, которые твердо верят в, казалось бы, не поддающиеся фактам теории заговора, могут изменить свое мнение, когда им представят убедительные доказательства. С теоретической точки зрения это рисует удивительно оптимистичную картину человеческого мышления: теории заговора действительно могут иметь результат», — пишут исследователи. «На практике, демонстрируя убедительную силу LLM, наши результаты подчеркивают как потенциальное положительное влияние генеративного ИИ при ответственном использовании, так и острую важность минимизации возможностей безответственного использования этой технологии».

Вам также может понравиться это

• Этот бот с искусственным интеллектом проверяет, существует ли снежный человек на самом деле
• Этот чат-бот с искусственным интеллектом ответит на все ваши вопросы об изменении климата
• Character.ai позволяет вам разговаривать по телефону с вашими любимыми (синтетическим) людьми, что совсем не странно.