- Эксперты предупреждают, что одна календарная запись может активно похитить ваш умный дом без ваших знаний
- Исследователи доказали, что ИИ может быть взломан для контроля интеллектуальных домов только словами
- Сказать «спасибо», запустил Близнецы, чтобы включить свет и автоматически готовить воду
Обещание домов, интегрированных с ИИ, давно включало в себя комфорт, автоматизацию и эффективность. Тем не менее, новое исследование исследователей Университета Тель -Авива выявило более тревожную реальность.
В, возможно, первый известный пример успешной атаки в подсказке ИИ в реальном мире, команда манипулировала умным домом, основанным на Близнецах, с не более чем скомпрометированной записью календаря Google.
В атаке использовалась интеграция Близнецов во всю экосистему Google, особенно возможность получить доступ к Календарные события, интерпретируйте естественные голосовые запросы и управляют сетевыми интеллектуальными устройствами.
От планирования до саботажа: эксплуатация повседневной жизни -KI Access
Хотя Близнецы ограничены в автономии, у вас достаточно «агентских функций» для выполнения команд в интеллектуальных системах.
Эта связь стала ответственностью, когда исследователи вставили вредоносные инструкции в календарную дату, которая была замаскирована как регулярное событие.
Когда пользователь позже попросил Gemini подвести итоги своего расписания, он случайно вызвал скрытые инструкции.
Встроенная команда содержала инструкции для Близнецов, чтобы выступить в качестве агента по дому Google и отдыхать до тех пор, пока пользователь не был введен общее предложение, такое как «спасибо» или «безопасность».
В то время Близнецы активировали интеллектуальные устройства, такие как свет, оконные лампы и даже котел, из которого пользователь разрешил в этот момент.
Эти отсроченные триггер были особенно эффективными, чтобы избежать существующей иммунной системы и путать источник мер.
Этот метод, который называется «оперативным посредством», вызывает серьезную обеспокоенность по поводу интерпретации интерфейсов ИИ пользовательского ввода и внешних данных.
Исследователи утверждают, что такие атаки с быстрой инъекцией представляют собой растущий класс угроз, которые сочетают в себе социальную инженерию с автоматизацией.
Они показали, что эта технология может выходить далеко за рамки контроля устройств.
Его также можно использовать для удаления встреч, отправки спама или открытых вредоносных веб -сайтов, шаги, которые могут привести к непосредственно к Кража личных данных или инфекция вредоносной программы.
Исследовательская группа координировала с Google, чтобы раскрыть уязвимость, и в ответ компания ускорила внедрение новых процессов защиты от атак с быстрой инъекцией, включая дополнительное обследование событий календаря и дополнительные подтверждения для конфиденциальных мер.
Тем не менее, есть вопросы о том, насколько масштабируются эти исправления, особенно если Близнецы и другие системы ИИ получают больше контроля над персональными данными и устройствами.
К сожалению, традиционные люксы безопасности и защита брандмауэра не предназначены для этого типа вектора атаки.
Чтобы оставаться в безопасности, пользователи должны ограничивать, к каким инструментам и помощникам искусственного интеллекта могут получить доступ к Близнецам, в частности, к календарям и интеллектуальным управлениям.
Также избегайте сохранения чувствительных или сложных инструкций в календарных событиях и не позволяют ИИ реагировать без присмотра на вас.
Обратите внимание на необычное поведение интеллектуальных устройств и разделить доступ, когда что -то кажется отключенным.
Над Проводной