- Новые исследования показывают, что инструменты ИИ используются и злоупотребляют киберпреступниками
- Создайте инструменты хакеров, которые используют законные LLMS
- Преступники также тренируют свои собственные LLMS
Неоспоримо, что ИИ используется как группами кибербезопасности, так и киберпреступниками, но новые исследования результаты Cisco Taslos Показывает, что преступники становятся креативными. Последнее развитие ландшафта KI/кибербезопасности заключается в том, что LLMS, «без цензуры», LLMS-LLMS и киберпреступные специфики используются против целей.
Недавно было показано, что и модели Grok, и Mistral -Ki поставляли варианты червя с электричеством, злонамеренным кодом, атаки социальной инженерии и даже взломанные учебники -поэтому она явно становится популярной тактикой.
LLMS структурированы с функциями безопасности и ограждениями, чтобы обеспечить минимальные искажения и результаты, которые существуют с человеческими ценностями и этикой, и для обеспечения того, чтобы чат -боты не применяют вредное поведение, например, B. вредоносные программы или фишинговые электронные письма -но есть работы.
Джейлбрейк и без цензуры
Так называемые LLM, наблюдаемые в этом исследовании, являются версиями моделей ИИ, которые работают вне нормальных ограничений. Это означает, что вы можете выполнять задачи для преступников и создавать вредный контент. Их довольно легко найти, как показывают исследования и легко сделать — с только относительно простыми входными запросами.
Некоторые преступники пошли на шаг вперед и создали свои собственные LLM, такие как WormGPT, мошенничество и Darkgpt. Они продаются для плохих актеров и имеют целую серию позорных функций. Например, мошенничество утверждает, что они способны создавать автоматические сценарии для репликации протоколов/файлов cookie, писать страницы/буквы мошенничества, чтобы найти утечки и слабости и даже для кода/оттолока/COP.
Другие перемещаются по функциям безопасности законных моделей искусственного интеллекта с помощью «джейлбрейка» чат -ботов. Это может использоваться с использованием «методов завещания», кодирования BASE64/RED-13, с разными языками, «L33T SP34K», смайликов и даже кода Морса.
«В то время как технология ИИ развивается, Cisco Talos ожидает, что Cyber Criminal будет продолжать принимать LLMS для рационализации своих процессов, писать инструменты/сценарии, с помощью которых пользователи могут подвергаться опасности, и генерировать контент, который можно легко обойти. Эта новая технология не обязательно раздражена киберпреступником.
Вы также могли бы понравиться
