Агентство перспективных оборонных исследовательских проектов (DARPA) правительства США объявило двухлетний конкурс на поиск лучших инструментов искусственного интеллекта для устранения уязвимостей в программном обеспечении.
Кибервызов ИИ проводится в партнерстве с отраслевыми тяжеловесами, такими как OpenAI, Google и Microsoft, а Linux Foundation Open Source Security Foundation (OpenSSF) выступает в качестве консультанта по испытаниям.
Всего разыгрывается 18,5 миллионов долларов. Задача конкурирующих команд, которые все будут базироваться в США, состоит в том, чтобы найти способ защитить программное обеспечение, выполняющее код критической инфраструктуры, с помощью ИИ. Участвующие малые предприятия получат от DARPA по 1 миллиону долларов на разработку своих инструментов.
проблемы с открытым исходным кодом
Менеджер программы DARPA Перри Адамс сказал: «Мы хотим создать системы, которые могут автоматически защищать любой тип программного обеспечения от атак», добавив: «Я считаю, что последние достижения в области ИИ, если их использовать ответственно, имеют значительный потенциал для защиты нашего кода».
С распространением открытого исходного кода, используемого во всех типах приложений, появилось больше кодовых баз с уязвимостями. Это открыло двери для все большего числа атак на цепочки поставок, которые могут иметь разрушительные и далеко идущие последствия.
В ответ президент Байден подписал указ о повышении стандартов кибербезопасности для цепочки поставок программного обеспечения, чтобы гарантировать безопасность программного обеспечения, используемого правительством, с самого начала.
Хотя правительство выразило обеспокоенность по поводу недавнего бума ИИ и даже хочет представить законопроект о правах ИИ, оно также, похоже, верит в свою способность справиться с новой конкуренцией.
«ИИ-кибервызов — это возможность изучить, что возможно, когда специалисты по кибербезопасности и ИИ имеют доступ к набору межорганизационных ресурсов беспрецедентного качества», — сказал Адамс.
«Если мы добьемся успеха, я надеюсь, что AI Cyber Challenge не только создаст инструменты кибербезопасности следующего поколения в этом пространстве, но и покажет, как можно использовать ИИ для улучшения общества, защищая здесь его важнейшие основы». «
Поскольку многие киберпреступники обращаются к ИИ для проведения атак, адвокаты защиты и поставщики программного обеспечения для обеспечения безопасности также используют этот высокий уровень автоматизации для обнаружения и устранения угроз.
Квалификация на AI Cyber Challenge состоится весной 2024 года, и до 20 лучших исполнителей будут приглашены на полуфинал конференции DEF CON в этом году. До пяти команд-победителей получат призы на сумму 2 миллиона долларов, а затем пройдут в финал DEF CON 2025. Три лучшие команды также получат призы, а абсолютный победитель получит 4 миллиона долларов.
Всех победителей просят открыть исходный код своих разработанных систем, хотя они и не обязаны этого делать. это чисто добровольно.
