- CHATGPT не может увидеть, был ли сайт для казино спам нарезан, истек или реализован
- Ответы из сгенерированных AI ответов могут показаться надежными, даже если они цитируют полностью похищенные и поддельные источники
- Срок действия благотворительных организаций рождаются в качестве азартных площадок и до сих пор считаются заслуживающими доверия источниками ИИ
CHATGPT быстро становится контактной точкой для людей, которые ищут рекомендации, от онлайн-услуг до местных компаний, но новые данные свидетельствуют о том, что предложения из предложений, созданных AI, не всегда могут основываться на надежных источниках.
Фактически, некоторые из веб -сайтов, которые были либо взломаны, либо срок действия доменов, которые срок действия истек и реализованы, часто используются для рекламы онлайн -казино и игровых платформ.
В последние несколько месяцев Джеймс Брокбанк, управляющий директор и основатель Цифровой частозадокументировал, насколько широко распространена проблема, и примеры CHATT цитируют содержание веб -сайтов, которыми явно манипулировали.
Использование пробелов в проверке источника ИИ
В одном случае, веб -сайт, возглавляемый адвокатом Вероникой Т. Бартоном, имел функционирующую юридическую практику на страницах, на которых рекомендовались британские казино.
«Ваш сайт был нарезан, и эта страница добавлена», — сказал Брокбанк после проверки доказательств.
В другом случае место, которое когда -то было связано с молодежной коалицией Организации Объединенных Наций, было превращено в платформу, которая «не подталкивала казино на Gamstop».
Несмотря на то, что в списке, который она размещена, содержал только внешнюю ссылку, она привела к другому преобразованному домену.
Образец продолжался с истекшим сроком действия, в том числе тот, который был частью благотворительной организации, которая больше не была скоординирована, которая ранее была связана BBC, CNN и Bloomberg.
Этот домен, который в настоящее время нажимает на азартный контент, был процитирован CHATGPT в ответ на запрос казино без депозита.
Эта тактика использует слабые стороны в выборе и цитате источников, как выбран и цитируется в отличие от обычных поисковых систем. В отличие от обычных поисковых систем, у модели не хватает механизмов для проверки легитимности имущества или редакционного намерения веб -сайта.
В результате контент, который вводится на исчезающих веб -сайтах, может появиться в его ответах без очевидных красных флагов для пользователя.
CHATGPT, кажется, предпочитает недавний контент и все же приписывать авторитет, основанный на вызове устаревшего домена, даже если содержание домена не имеет преемственности с его прошлым — что открывает дверь плохим актерам, чтобы манипулировать видимостью с помощью средств, которые имеют мало общего с достоверностью.
Вывод заключается в том, что пользователи, которые связываются с CHATGPT по рекомендациям, не должны предполагать, что каждый ответ поддерживается достоверным источником.
Краткий обзор авторитета цитируемого сайта, его истории, имущества и его актуальности может внести большой вклад в предотвращение вводящих в заблуждение или вредных предложений.
Вы также могли бы понравиться
