Появление виртуальных помощников на базе искусственного интеллекта (ИИ), таких как ChatGPT, произвело революцию в том, как мы взаимодействуем с технологиями. Однако эта эволюция также проложила путь для новых угроз, таких какиспользование таких чат-ботов для совершения фишинговых атак. Чтобы решить эту возникающую проблему, группа исследователей изТехасский университет в Арлингтоне разработала инновационное программное обеспечение, которое может обнаруживать и блокировать попытки создания фишинговых веб-сайтов с помощью искусственного интеллекта.

Влияние чат-ботов с искусственным интеллектом на фишинговые атаки

Легкость, с которой злоумышленники могут использовать возможности чат-ботов с искусственным интеллектом для создания веб-сайтов, представляет собой серьезную проблему кибербезопасности. Теперь даже люди с небольшими техническими навыками могут быстро создавать фишинговые сайты, что делает эти типы атак гораздо более доступными и распространенными. Это явление требует быстрого и целенаправленного реагирования для защиты пользователей в Интернете.

Программное обеспечение, разработанное для противодействия фишингу с использованием искусственного интеллекта

Исследовательская группа под руководством профессора Ширин Нилизаде, кафедра компьютерных наук и инженериисоздала программное обеспечение, которое может обнаруживать и блокировать попытки использования чат-ботов с искусственным интеллектом для создание фишинговых сайтов. Этот инновационный инструмент основан на выявлении конкретных инструкций, которые могут быть использованы для создания таких вредоносных веб-сайтов.

Процесс разработки антифишингового программного обеспечения

Для разработки своего программного обеспечения компания исследовательская группа изначально определила ряд подсказок с инструкциями которые могут быть использованы для создания фишинговых веб-сайтов. Используя эти знания, они обучили свое программное обеспечение распознавать эти конкретные ключевые слова и шаблоны и реагировать на них.тем самым улучшая его способность обнаруживать и блокировать выполнение таких вредоносных запросов чат-ботами.

Признание влияния исследований

Работа исследовательской группы привлекла внимание индустрии кибербезопасности, о чем свидетельствует их недавняя публикация на сайте Симпозиум IEEE по безопасности и конфиденциальности (IEEE S&P; 2024). На этом мероприятии они не только поделились своими результатами, но и получили престижную награду Выдающаяся бумажная наградаподчеркивая значительное влияние их исследования.

Сотрудничество с ведущими технологическими компаниями

Исследователи связались с крупными технологическими компаниями, разрабатывающими этих чат-ботов с искусственным интеллектом, такими как Google е ОпенАИс целью интеграции своих выводов в более широкие стратегии безопасности ИИ. Это сотрудничество направлено на усиление защиты пользователей от фишинговых угроз, создаваемых искусственным интеллектом.

Постоянная приверженность кибербезопасности

Члены исследовательской группы, Саяк Саха Рой и Пуджита Тота, выразили твердую приверженность устранению последствий своих исследований для кибербезопасности. Они рады поделиться своими выводами с сообществом кибербезопасности и изучить дальнейшее развитие своей работы.

Важность осведомленности и сотрудничества

По словам Саяка Саха Роя, крайне важно, чтобы сообщество восприимчиво к их работе и понимало риски, связанные сненадлежащее использование чат-ботов с искусственным интеллектом для совершения фишинговых атак. Эта осведомленность должна распространиться от сообщества кибербезопасности до широкой общественности.

Последствия для будущей безопасности

Программное обеспечение, разработанное исследовательской группой, представляет собой крупный прорыв в борьбе с фишинговыми мошенничествами с использованием искусственного интеллекта. Поскольку технологии продолжают развиваться, крайне важно, чтобы усилия по исследованиям и разработкам в области безопасности не отставали, чтобы защитить пользователей от постоянно развивающихся угроз.

Источник статьи ВОЗ.