Храбрый раскрыт уязвимости безопасности в браузерах с искусственным интеллектом, которые могут позволить вредоносным веб-сайтам захватывать помощников искусственного интеллекта и получать доступ к конфиденциальным учетным записям пользователей.
проблемы влияют на Perplexity Comet, Fellou и, возможно, на другие браузеры с искусственным интеллектом, которые могут выполнять действия от имени пользователей.
Уязвимости возникают в результате непрямых атак с внедрением подсказок, когда веб-сайты внедряют скрытые инструкции, которые браузеры с искусственным интеллектом обрабатывают как законные пользовательские команды. Brave опубликовал результаты после того, как сообщил о проблемах пострадавшим компаниям.
Содержание
Что нашел Храбрый
Уязвимость кометы недоумения
Функцию создания снимков экрана Comet можно использовать, встраивая в веб-страницы почти невидимый текст.
Когда пользователи делают снимки экрана, чтобы задать вопросы, ИИ извлекает скрытый текст с помощью оптического распознавания символов и обрабатывает его как команды, а не как ненадежный контент.
Смелые замечания Comet не имеет открытого исходного кода, поэтому такое поведение является предполагаемым и не может быть проверено на основе исходного кода.
Скрытые инструкции используют слабые цвета, которые люди едва видят, но системы ИИ извлекают и выполняют. Это позволяет злоумышленникам отдавать команды ИИ-помощнику без ведома пользователя.
Уязвимость навигации Fellou
Браузер Fellou отправляет содержимое веб-страницы в свою систему искусственного интеллекта, когда пользователи переходят на сайт.
Когда вы просите ИИ-помощника посетить веб-страницу, браузер передает видимое содержимое страницы ИИ таким образом, что текст веб-страницы переопределяет намерения пользователя.
Это означает, что посещение вредоносного сайта может вызвать непреднамеренные действия ИИ, не требуя явного взаимодействия пользователя с ИИ-помощником.
Доступ к конфиденциальным учетным записям
Уязвимости становятся опасными, поскольку ИИ-помощники работают с правами аутентификации пользователей.
Взломанный ИИ-браузер может получить доступ к банковским сайтам, поставщикам электронной почты, рабочим системам и облачным хранилищам, где пользователи остаются авторизованными.
Брэйв отмечает, что даже краткое изложение поста Reddit может привести к тому, что злоумышленники украдут деньги или личные данные, если пост содержит скрытые вредоносные инструкции.
Отраслевой контекст
Брэйв описывает непрямое внедрение подсказок как системную проблему, с которой сталкиваются ИИ-браузеры, а не как изолированную проблему.
Проблема связана с тем, что системы искусственного интеллекта не могут отличить доверенный пользовательский ввод от ненадежного содержимого веб-страницы при создании подсказок.
Brave не раскрывает подробности еще одной уязвимости, обнаруженной в другом браузере, до следующей недели.
Почему это важно
Брэйв утверждает, что традиционные модели веб-безопасности не работают, когда агенты ИИ действуют от имени пользователей.
Инструкции на естественном языке на любой веб-странице могут инициировать междоменные действия, охватывающие банки, поставщики медицинских услуг, корпоративные системы и хосты электронной почты.
Защита политикой одного и того же происхождения становится неактуальной, поскольку ИИ-помощники работают с полными привилегиями пользователя на всех аутентифицированных сайтах.
Об этом стало известно в тот же день, когда OpenAI запустила ChatGPT Atlas с возможностями режима агента, что подчеркивает противоречие между функциональностью браузера AI и безопасностью.
Люди, использующие браузеры с искусственным интеллектом и функциями агентов, сталкиваются с компромиссом между возможностями автоматизации и подверженностью этим системным уязвимостям.
Заглядывая в будущее
Исследование Брэйва продолжается, и на следующей неделе планируется опубликовать дополнительные результаты.
Компания указала, что изучает долгосрочные решения для решения проблем с границами доверия при агентном просмотре.
Рекомендованное изображение: Кто такой Дэнни/Shutterstock
