- Исследователи обнаружили внедрение искусственного интеллекта Gemini через приглашения в Календарь Google
- Злоумышленники могут украсть данные частных встреч с минимальным взаимодействием с пользователем.
- Уязвимость была смягчена, что снизило непосредственный риск эксплуатации.
Исследователи безопасности нашли еще один способ проведения оперативных атак на ИИ Gemini от Google, на этот раз для кражи конфиденциальных данных Календаря Google.
Внедрение подсказки — это тип атаки, при которой злоумышленник скрывает подсказку в безобидном сообщении. Когда жертва поручает своему ИИ проанализировать сообщение (или иным образом использовать его в качестве данных для своей работы), ИИ в конечном итоге выполняет подсказку и выполняет инструкции субъекта.
По своей сути мгновенное внедрение возможно, поскольку ИИ не может отличить инструкцию от данных, используемых для ее выполнения.
Близнецы и злоупотребление календарем
До сих пор атаки с быстрым внедрением ограничивались сообщениями электронной почты и инструкциями по суммированию или чтению электронных писем. В последнем расследовании Miggo Security заявила, что то же самое можно сделать через Календарь Google.
Когда человек создает запись в календаре, он может пригласить других участников, добавив свой адрес электронной почты. В этом сценарии злоумышленник может создать запись в календаре, содержащую вредоносный запрос (для кражи данных календаря), и пригласить жертву. Затем приглашение отправляется в виде электронного письма, содержащего подсказки. Следующим шагом жертва должна дать указание своему ИИ искать предстоящие события.
ИИ анализирует запрос, создает новое событие календаря с подробностями, добавляет злоумышленника и напрямую предоставляет ему доступ к конфиденциальной информации.
«Этот обход позволил несанкционированный доступ к данным частных встреч и создание вводящих в заблуждение событий календаря без прямого взаимодействия с пользователем», — рассказали исследователи The Hacker News.
«Однако за кулисами Gemini создала новое событие в календаре и написала полное описание частных встреч нашего целевого пользователя в описании события», — сказал Мигго. «Во многих конфигурациях корпоративного календаря новое событие было видно злоумышленнику, что позволяло ему читать украденные личные данные, при этом целевой пользователь не предпринимал никаких действий».
Проблема теперь решена, подтвердил Мигго.
Над TheHackerНовости
Лучшая антивирусная программа на любой бюджет
Следите за TechRadar в Новостях Google. И Добавьте нас в качестве предпочтительного источника чтобы получать новости, обзоры и мнения наших экспертов в своих лентах. Обязательно нажмите кнопку «Подписаться»!
И ты, конечно, тоже можешь Следите за TechRadar в TikTok за новостями, обзорами, распаковками в видео-форме и получайте от нас регулярные обновления WhatsApp к.
