ФБР предупредило, что хакеры, использующие инструменты генеративного искусственного интеллекта (ИИ), такие как ChatGPT, свирепствуют, быстро создавая вредоносный код и запуская киберпреступления, которые в прошлом были бы гораздо более изощренными.
Объясняя свои опасения в телефонном звонке журналистам, ФБР объяснило, что чат-боты с искусственным интеллектом подпитывают все виды незаконной деятельности, от мошенников и мошенников, совершенствующих свои методы, до террористов, консультирующихся с инструментами для проведения более разрушительных химических атак.
По словам высокопоставленного сотрудника ФБР (через Аппаратное обеспечение Тома), «Мы ожидаем, что со временем эти тенденции будут усиливаться по мере внедрения и демократизации моделей ИИ». те или старейшины.
Это не первый случай, когда хакеры используют такие инструменты, как ChatGPT, и подделывают их для создания опасных вредоносных программ. В феврале 2023 года исследователи из охранной компании Checkpoint обнаружили, что злоумышленникам удалось изменить API чат-бота, позволив ему генерировать вредоносный код, что позволило почти любому потенциальному хакеру создавать вирусы.
Представляет ли ChatGPT угрозу безопасности?
Позиция ФБР сильно отличается от позиции некоторых киберэкспертов, с которыми мы разговаривали в мае 2023 года. сказал нам, что угроза чат-ботов ИИ была в значительной степени преувеличена, поскольку большинство хакеров нашли лучшие эксплойты кода из более традиционных утечек данных и исследований с открытым исходным кодом.
Например, Мартин Зугек, директор по техническим решениям Bitdefender, объяснил, что «большинство неопытных авторов вредоносных программ, вероятно, не обладают необходимыми навыками» для обхода защиты чат-ботов от вредоносных программ. Кроме того, по словам Цугка, «качество вредоносного кода, создаваемого чат-ботами, как правило, низкое».
Это контрапункт утверждениям ФБР, и нам придется посмотреть, какая сторона окажется права. Но в связи с тем, что производитель ChatGPT OpenAI отказывается от своего собственного инструмента обнаружения плагиата, созданного чат-ботом, новости в последнее время не очень обнадеживают. Если ФБР право, бороться с хакерами и их попытками вредоносного ПО на основе чат-ботов может быть непросто.
Рекомендации редактора
