Сегодня Google Thrat Intelligence Group (GTIG) опубликовала новый отчет демонстрируя изменения в сфере кибербезопасности. Злоумышленники больше не используют искусственный интеллект только для повышения производительности; они также экспериментируют с новыми операциями на основе искусственного интеллекта. GTIG наблюдал, как спонсируемые государством субъекты (в том числе из Северной Кореи, Ирана и Китайской Народной Республики) пытались злоупотребить искусственным интеллектом для улучшения своей деятельности — от разведки и создания фишинговых приманок до кражи данных. GTIG также заметил плохих актеров:

• Используйте вредоносное ПО на базе искусственного интеллекта, которое может генерировать вредоносные сценарии и изменять их код на лету, чтобы обойти системы обнаружения.
• Выдача себя за студентов, исследователей или другие действия с целью обойти защитные меры искусственного интеллекта и получить ограниченную информацию.
• Получите доступ к подпольным цифровым рынкам, предлагающим сложные инструменты искусственного интеллекта для исследования фишинга, вредоносного ПО и уязвимостей.

В отчете также подробно описываются конкретные шаги, которые предпринимает Google, в том числе противодействие злоумышленникам путем отключения ресурсов, связанных с вредоносной деятельностью, и применения аналитических данных для усиления как наших классификаторов, так и модели искусственного интеллекта против злоупотреблений.

Полный отчет вы можете прочитать на Блог Google Cloud Threat Intelligence.