Самый популярный в мире чат-бот ChatGPT используется злоумышленниками для создания новых типов вредоносных программ.
Компания по кибербезопасности WithSecure подтвердила, что обнаружила в дикой природе образцы вредоносного ПО, созданного печально известным автором ИИ. Что делает ChatGPT особенно опасным, так это то, что он может генерировать бесчисленные варианты вредоносных программ, что затрудняет их обнаружение.
Преступники могут просто предоставить ChatGPT примеры существующего кода вредоносного ПО и поручить ему разработать новые штаммы на их основе, что позволит распространять вредоносное ПО, не требуя почти такого же количества времени, усилий и опыта, как раньше.
К добру и к худу
Сообщение приходит как Разговор о регулировании ИИ в изобилии, чтобы предотвратить его использование в злонамеренных целях. Когда ChatGPT наделал много шума в ноябре прошлого года, практически не существовало правил использования ChatGPT, и в течение месяца его уже взломали для написания вредоносных писем и файлов.
В модели предусмотрены определенные меры безопасности для предотвращения выполнения вредоносных запросов. Однако есть способы, которыми злоумышленники могут их обойти.
Об этом заявил генеральный директор WithSecure Юхани Хинтикка. информационная безопасность что ИИ обычно используется защитниками кибербезопасности для поиска и устранения вредоносных программ, созданных злоумышленниками вручную.
Однако с появлением бесплатных мощных инструментов искусственного интеллекта, таких как ChatGPT, ситуация, похоже, меняется. Инструменты удаленного доступа использовались в незаконных целях, а теперь и ИИ.
Тим Уэст, глава отдела анализа угроз в компании WithSecure, добавил: «ChatGPT будет поддерживать разработку программного обеспечения в лучшую или в худшую сторону, и это позволяет и снижает барьер для входа злоумышленников для создания вредоносного ПО».
И фишинговые электронные письма, которые ChatGPT может создать, как правило, обнаруживаются людьми, поскольку LLM продолжают развиваться, и Хинтикка говорит, что может стать труднее предотвратить их попадание на такие мошенничества в будущем.
Кроме того, поскольку успех атак программ-вымогателей растет тревожными темпами, злоумышленники реинвестируют и становятся лучше организованными, отдавая свои операции на аутсорсинг и углубляя свое понимание ИИ для запуска более успешных атак.
Заглядывая вперед в области кибербезопасности, Хинтикка заключил: «Это будет игра о хорошем ИИ и плохом ИИ».
