В рамках Инициативы по киберзащите ИИ мы продолжаем инвестировать в инфраструктуру, готовую к использованию ИИ, выпуская новые инструменты для защитников и запуская новые исследования и обучение в области безопасности ИИ. Эти обязательства призваны помочь ИИ защитить, расширить возможности и продвинуть наше коллективное цифровое будущее.

1. Безопасность. Мы считаем, что технологии безопасности искусственного интеллекта, как и другие технологии, должны быть безопасными по своей конструкции и по умолчанию – в противном случае они могут еще больше усугубить дилемму защитника. Вот почему мы запустили Secure AI Framework как способ сотрудничества в области передового опыта обеспечения безопасности систем искусственного интеллекта. Чтобы использовать эти усилия для создания более безопасной экосистемы ИИ:

• Мы Продолжайте инвестировать в нашу безопасную глобальную сеть центров обработки данных, готовую к использованию искусственного интеллекта.. Чтобы помочь переломить ситуацию в киберпространстве, мы должны сделать новые инновации в области искусственного интеллекта доступными для организаций государственного сектора и предприятий всех размеров и во всех секторах. В период с 2019 по конец 2024 года мы инвестируем более 5 миллиардов долларов в центры обработки данных по всей Европе, помогая обеспечить безопасный и надежный доступ к ряду цифровых услуг, включая широкие возможности генеративного искусственного интеллекта, такие как наша платформа Vertex AI.
• Мы объявляем о новом проекте «ИИ для кибербезопасности» когорта 17 стартапов из Великобритании, США и ЕС в рамках программы AI for Cybersecurity в Академии роста стартапов Google. Это поможет укрепить трансатлантическую экосистему кибербезопасности посредством стратегий интернационализации, инструментов искусственного интеллекта и навыков, необходимых для их использования.

2. Расширение возможностей. Выбор управления ИИ, принятый сегодня, может непредвиденным образом изменить ландшафт киберпространства. Нашим обществам нужен сбалансированный нормативный подход к использованию и внедрению ИИ, чтобы избежать будущего, в котором злоумышленники смогут внедрять инновации, а защитники — нет. Нам нужны целевые инвестиции, партнерство между промышленностью и правительством, а также эффективные нормативные подходы, которые позволят организациям максимизировать ценность ИИ, одновременно ограничивая его полезность для противников. Чтобы дать защитникам преимущество в этом бою:

• Увеличиваем наши 15 миллионов долларов Google.орг Программа семинаров по кибербезопасности охватит всю Европу, о чем первоначально было объявлено на GSEC Malaga в прошлом году. Программа, включающая модули, ориентированные на искусственный интеллект, помогает университетам обучать следующее поколение экспертов по кибербезопасности из малообеспеченных сообществ.
• Мы с открытым исходным кодом Магияновый инструмент на базе искусственного интеллекта, который поможет защитникам посредством идентификации типа файла, что является важной частью обнаружения вредоносного ПО. Magika уже используется для защиты таких продуктов, как Gmail, Drive и Safe Browsing, а также нашей командой VirusTotal для создания более безопасной цифровой среды. Magika превосходит традиционные методы идентификации файлов, обеспечивая повышение общей точности на 30 % и повышение точности до 95 % для традиционно сложного для идентификации, но потенциально проблемного контента, такого как VBA, JavaScript и Powershell.

3. Двигайтесь вперед. Мы стремимся продвигать исследования, которые помогают совершать прорывы в области безопасности на основе искусственного интеллекта. Чтобы поддержать эти усилия, мы объявляем 2 миллиона долларов США на исследовательские гранты и стратегическое партнерство Это поможет усилить исследовательские инициативы в области кибербезопасности с использованием ИИ, включая улучшение проверки кода, улучшение понимания того, как ИИ может способствовать кибератакам и противодействию обороне, а также разработку больших языковых моделей, более устойчивых к угрозам. Финансирование поддерживает исследователей в таких учреждениях, как Чикагский университет, Карнеги-Меллон и Стэнфорд. Это основано на наших постоянных усилиях по развитию экосистемы кибербезопасности, включая нашу Обязательство в размере 12 миллионов долларов в поисковой системе Нью-Йорка в прошлом году.

Революция ИИ уже происходит. Хотя люди справедливо аплодируют обещаниям новых лекарств и научных достижений, мы также воодушевлены потенциалом ИИ для решения проблем безопасности поколений, одновременно приближая нас к безопасному, защищенному и заслуживающему доверия цифровому миру, которого мы заслуживаем.