В новом отчете утверждается, что поиском ChatGPT можно манипулировать с помощью скрытого текста, содержащего инструкции, сообщающие поиску ChatGPT, как реагировать на ответ. Тесты также показали, что ChatGPT можно манипулировать без инструкций, а только со скрытым текстом.
Содержание
Поиском ChatGPT можно управлять с помощью скрытого текста.
В отчете The Guardian описывается, как они использовали скрытый текст на поддельном веб-сайте, чтобы обманом заставить поиск ChatGPT показать им скрытый текстовый ответ на веб-странице. Текст скрыт, если шрифт соответствует цвету фона страницы, например. Б. белый шрифт на белом фоне.
Затем они попросили ChatGPT Search посетить веб-сайт и ответить на вопрос, основанный на тексте на веб-сайте. Поиск ChatGPT просканировал веб-сайт, проиндексировал скрытый контент и использовал его в ответе.
Сначала они оценили ChatGPT, используя страницу контроля без эксплойтов на поддельном веб-сайте отзывов, чтобы проверить реакцию ChatGPT. Он прочитал отзывы и дал нормальный ответ.
Затем исследователи из The Guardian отправили поиск ChatGPT на поддельный веб-сайт, на котором были инструкции о том, как оставить положительный отзыв, и поиск ChatGPT последовал инструкциям и вернул положительные отзывы.
Исследователи провели третий тест с положительными отзывами, написанными скрытым текстом, но без инструкций, а поиск ChatGPT снова дал положительные отзывы.
Вот как выглядит The Guardian объяснил это:
«…когда скрытый текст содержал инструкции для ChatGPT вернуть положительный отзыв, ответ всегда был неизменно положительным. Это имело место, даже если страница содержала отрицательные отзывы — скрытый текст мог использоваться для перекрытия фактической оценки обзора.
Даже простое включение скрытого текста третьими лицами без инструкций может обеспечить положительный отзыв: один тест содержал чрезвычайно положительные фальшивые отзывы, которые повлияли на резюме, возвращаемое ChatGPT».
Вышеупомянутый тест аналогичен тест ChatGPT Именно это сделал этот профессор университета информатики в марте 2023 года, когда обманом заставил ChatGPT заявить, что он эксперт по путешествиям во времени.
Эти тесты доказывают, что данные обучения ChatGPT и поисковый бот ChatGPT могут поглощать скрытый текст, но ими также можно манипулировать в следующих направлениях. The Guardian цитирует эксперта по безопасности, который заявил, что OpenAI была проинформирована об эксплойте и что он может быть исправлен к моменту публикации статьи.
Почему поисковыми системами с искусственным интеллектом можно манипулировать?
Одним из пробелов в поиске ИИ является технология под названием RAG (Retrival Augmented Generation), метод, который может извлекать информацию из поисковой системы, чтобы ИИ мог затем использовать ее для генерации ответов на вопросы из текущих и (предположительно) надежных источников. Как поисковые системы AI определяют авторитетные веб-сайты? Например, Perplexity AI использует модифицированную версию PageRank для идентификации и цитирования заслуживающих доверия веб-сайтов в своей поисковой системе AI.
Поиск ChatGPT основан на Bing, но также имеет собственный сканер, который может получать информацию в режиме реального времени. Вероятно, небезосновательно предположить, что если веб-сайт включен в поисковый индекс Bing, он, вероятно, также включен в поиск ChatGPT, что должно защитить поиск ChatGPT от влияния скрытого текста. Предположительно, веб-сайты со скрытым текстом будут исключены из поискового индекса Bing. Однако возможно замаскировать веб-сайт для отображения содержимого, отличного от содержимого поискового бота ChatGPT (текущий список ботов OpenAI Search Crawler). доступно здесь).
Другие способы манипулировать поисковыми системами ИИ
Говорят, что есть и другие способы, открытые исследователями в прошлом году, которые все еще могут быть эффективными (Читать: Исследователи узнают, как использовать SEO для поиска с помощью ИИ. В этом прошлогоднем исследовании исследователи протестировали девять стратегий влияния на поисковые системы ИИ:
Девять стратегий манипулирования поисковыми системами ИИ
- Авторитетный: измените свой стиль письма, чтобы сделать авторитетные заявления более убедительными.
- Оптимизация ключевых слов: добавление дополнительных ключевых слов из поискового запроса.
- Добавление статистики: изменение существующего контента для включения статистики, а не поясняющей информации.
- Цитировать источники (цитировать надежные источники)
- Дополнение цитирования: добавление цитат и цитат из высококачественных источников.
- Легко понять: сделайте контент более понятным.
- Оптимизация беглости означает, что контент становится более четким.
- Уникальные слова: Добавление менее часто используемых, редких и уникальных слов, но без изменения смысла контента.
- Технические термины: эта стратегия добавляет как уникальные, так и технические термины, где это необходимо, без изменения смысла контента.
Исследователи обнаружили, что первые три стратегии сработали лучше всего. В частности, очень помогло добавление ключевых слов на веб-страницы.
Можно ли манипулировать поиском ChatGPT?
Недавно на конференции по поиску я услышал заявления о том, что дайджестами искусственного интеллекта Google можно манипулировать, чтобы отображать продукты определенных крупных брендов в ответ на поисковые запросы. Я не проверял, правда ли это, но утверждение исходит из надежного и авторитетного источника. Что касается поиска ChatGPT, я заметил несколько интересных вещей относительно того, какие сайты отображают информацию и при каких обстоятельствах, что может повлиять на рейтинг. Поэтому неудивительно, что в поиске ChatGPT существуют пробелы в ранжировании. Поиск с помощью ИИ очень похож на начало традиционного поиска.
Рекомендованное изображение: Shutterstock/Антонелло Маранджи
