OpenAI, компания по искусственному интеллекту, стоящая за ChatGPT, объявила в среду, что закрыла учетные записи в своих сервисах, используемых злоумышленниками, связанными с Китаем, Россией, Ираном и Северной Кореей. Решение было принято в сотрудничество с Microsoftодин из крупнейших инвесторов компании, опубликовавший подробный отчет о том, как различные Группа была взломана Спонсируемые государством организации экспериментируют с моделями больших языков (LLM) для потенциального проведения кибератак.

Хотя компании заявили, что не выявили каких-либо серьезных атак с использованием изученных ими LLM, они предупредили, что хакеры связанные с государствами, ищут способы использования искусственного интеллекта для улучшения своих методов атак. Исследователи Microsoft заявили, что

«Киберпреступные группы, спонсируемые государством субъекты угроз и другие злоумышленники изучают и тестируют различные технологии искусственного интеллекта по мере их появления, пытаясь понять потенциальную ценность их операций и меры безопасности, от которых им, возможно, придется уклоняться».

Группы угроз, связанные с Китаем

Компании наблюдали два кластера угроз, связанных с Китаем, которые они назвали Угольный тайфун и лососевый тайфуниспользовать LLM для разведки, выявления ошибок кодирования и совершенствования методов оперативного управления. Группа Лососевый тайфун ранее преследовала американских оборонных подрядчиков, правительственные учреждения и предприятия криптоиндустрии, в то время как группа Угольный Тайфун были нацелены на ряд критически важных секторов инфраструктуры, расположенных в основном в Азии.

Российские хакеры связаны с военной разведкой

Forest Blizzard — название Microsoft для хакерского подразделения российской военной разведки, также известного как BlueDelta, Fancy Bear и APT28было замечено «взаимодействовать с LLM для понимания протоколов спутниковой связи, технологий радиолокационной визуализации и конкретных технических параметров». Группа, которая очень активно совершала кибератаки против украинских организаций в поддержку военных целей России, может быть нацелена на спутниковые и радиолокационные технологии в связи с обычными военными операциями на Украине, заявили Microsoft и OpenAI.

Группы, связанные с Северной Кореей и Ираном

Помимо России и Китая, компании присматриваются к группе, связанной с Северной Кореей, под названием Изумрудный мокрый снегкоторый перекрывается с Кимсукии связанная с Ираном группа под названием Crimson Sandstorm, которая связана с иранским Корпусом стражей исламской революции, используют LLM для поддержки своих усилий в области социальной инженерии, помощи в поиске уязвимостей и разработки кодов для уклонения от обнаружения, среди прочего.

Принципы предотвращения злоупотреблений моделями ИИ

В рамках доклада, опубликованного в среду, Microsoft представила набор принципов, регулирующих его усилия по предотвращению злоупотребления его моделями ИИ другими спонсируемыми государством хакерами. Эти принципы включают в себя выявление и прекращение злонамеренного использования технологийуведомляя других поставщиков услуг ИИ о своих выводах, сотрудничая с другими заинтересованными сторонами для реагирования на риски и публично документируя, как субъекты угроз используют свои системы и какие меры компания принимает против них.

Выводы

OpenAI и Microsoft заняли решительную позицию против спонсируемых государством злоумышленников, стремящихся использовать искусственный интеллект для улучшения своих хакерских возможностей. Там закрытие счета связь с этими группами демонстрирует приверженность компаний обеспечению безопасности и защищенности своих услуг. Однако продолжающееся развитие технологий потребует постоянных усилий по выявлению и противодействию злоупотреблениям моделями ИИ со стороны хакеров и групп, спонсируемых государством.

Для OpenAI и Microsoft будет крайне важно продолжать внимательно следить за использованием своих технологий злоумышленниками и сотрудничать с другими поставщиками услуг искусственного интеллекта для снижения рисков. Только совместными усилиями и прозрачностью документирования угроз и контрмер можно будет лучше защитить цифровую инфраструктуру и обеспечить безопасную онлайн-среду для всех.