Искусственный интеллект трансформирует многие отрасли, но лишь немногие из них так радикально, как кибербезопасность. Становится все более очевидным, что ИИ — это будущее безопасности, поскольку киберпреступность резко возросла, а пробелы в навыках увеличиваются, но некоторые проблемы остаются. В последнее время все большее внимание привлекает потребность в объяснимости ИИ.

Опасения по поводу объяснимости ИИ росли по мере того, как инструменты ИИ росли, и их недостатки все больше времени находились в центре внимания. Имеет ли это такое же значение для кибербезопасности, как и для других приложений? Вот более близкий взгляд.

Что такое объяснимость в ИИ?

Чтобы понять, как объяснимость влияет на кибербезопасность, вы должны сначала понять, почему она важна в любом контексте. Объяснимость является самым большим препятствием для внедрения ИИ во многих отраслях в основном по одной причине — доверие.

Многие модели ИИ сегодня представляют собой черные ящики, то есть вы не можете видеть, как они приходят к своим решениям. В отличие от этого, объяснимый ИИ (XAI) обеспечивает полную прозрачность того, как модель обрабатывает и интерпретирует данные. Когда вы используете модель XAI, вы можете видеть ее результаты и цепочку рассуждений, которые привели ее к этим выводам, укрепляя доверие к этому процессу принятия решений.

Чтобы представить это в контексте кибербезопасности, подумайте об автоматизированной системе мониторинга сети. Представьте, что эта модель помечает попытку входа в систему как потенциальное нарушение. Обычная модель черного ящика заявит, что считает активность подозрительной, но может не сказать, почему. XAI позволяет вам продолжить расследование, чтобы увидеть, какие конкретные действия заставили ИИ классифицировать инцидент как нарушение, ускоряя время реагирования и потенциально снижая затраты.

Почему объяснимость важна для кибербезопасности?

Привлекательность XAI очевидна в некоторых случаях использования. Например, отделы кадров должны быть в состоянии объяснить решения ИИ, чтобы гарантировать их беспристрастность. Однако некоторые могут возразить, что то, как модель приходит к решениям по безопасности, не имеет значения, лишь бы оно было точным. Вот несколько причин, почему это не обязательно так.

1. Повышение точности ИИ

Самая важная причина объяснимости в ИИ для кибербезопасности заключается в том, что он повышает точность модели. ИИ предлагает быстрые ответы на потенциальные угрозы, но специалисты по безопасности должны быть в состоянии доверять ему, чтобы эти ответы были полезными. Непонимание того, почему модель классифицирует инциденты определенным образом, препятствует этому доверию.

XAI повышает точность ИИ безопасности, снижая риск ложных срабатываний. Команды безопасности могли точно понять, почему модель пометила что-то как угрозу. Если это было неправильно, они могут понять, почему, и при необходимости скорректировать это, чтобы предотвратить подобные ошибки.

Исследования показали, что XAI может обеспечить безопасность точность более 95% делая причины неправильной классификации более очевидными. Это позволяет вам создать более надежную систему классификации, гарантируя, что ваши оповещения о безопасности будут максимально точными.

2. Более информированное принятие решений

Объяснимость дает больше информации, что имеет решающее значение для определения следующих шагов в области кибербезопасности. Лучший способ устранения угрозы широко варьируется в зависимости от множества конкретных факторов. Вы можете узнать больше о том, почему модель ИИ классифицирует угрозу определенным образом, получив важный контекст.

ИИ «черный ящик» может предложить не что иное, как классификацию. XAI, напротив, позволяет анализировать первопричины, позволяя вам изучить процесс принятия решений, раскрывая все тонкости угрозы и то, как она проявляется. Тогда вы сможете решить ее более эффективно.

Только 6% ответов на инциденты в США занимает менее двух недель. Учитывая, насколько длинными могут быть эти временные рамки, лучше как можно скорее узнать как можно больше, чтобы свести к минимуму ущерб. Контекст анализа основных причин XAI позволяет это сделать.

3. Текущие улучшения

Объяснимый ИИ также важен для кибербезопасности, поскольку он позволяет постоянно совершенствоваться. Кибербезопасность динамична. Преступники всегда ищут новые способы обойти защиту, поэтому тенденции безопасности должны адаптироваться в ответ. Это может быть сложно, если вы не уверены, как ваш ИИ безопасности обнаруживает угрозы.

Простой адаптации к известным угрозам также недостаточно. Грубо 40% всех эксплойтов нулевого дня за последнее десятилетие произошло в 2021 году. Атаки, нацеленные на неизвестные уязвимости, становятся все более распространенными, поэтому вы должны уметь находить и устранять слабые места в своей системе до того, как это сделают киберпреступники.

Объяснимость позволяет вам сделать именно это. Поскольку вы можете видеть, как XAI принимает решения, вы можете найти пробелы или проблемы, которые могут привести к ошибкам, и устранить их, чтобы повысить свою безопасность. Точно так же вы можете просмотреть тенденции в том, что привело к различным действиям, чтобы определить новые угрозы, которые вы должны учитывать.

4. Соблюдение нормативных требований

По мере того, как правила кибербезопасности растут, вместе с ними будет расти и важность объяснимости в безопасности ИИ. Законы о конфиденциальности, такие как GDPR или HIPAA, содержат строгие требования к прозрачности. Черный ящик AI быстро становится юридической ответственностью, если ваша организация подпадает под эту юрисдикцию.

Искусственный интеллект безопасности, вероятно, имеет доступ к пользовательским данным для выявления подозрительной активности. Это означает, что вы должны быть в состоянии доказать, как модель использует эту информацию, чтобы соответствовать правилам конфиденциальности. XAI предлагает такую ​​прозрачность, а ИИ «черный ящик» — нет.

В настоящее время подобные правила применяются только к некоторым отраслям и местам, но это, вероятно, скоро изменится. В США могут отсутствовать федеральные законы о данных, но не менее девяти штатов приняли собственное всеобъемлющее законодательство о конфиденциальности. Еще несколько компаний как минимум ввели законопроекты о защите данных. XAI бесценен в свете этих растущих правил.

5. Укрепление доверия

По крайней мере, ИИ для кибербезопасности должен быть объяснимым для укрепления доверия. Многие компании изо всех сил пытаются завоевать доверие потребителей, и многие люди сомневаются в надежности ИИ. XAI помогает убедить ваших клиентов в том, что ваш ИИ безопасности безопасен и этичен, потому что вы можете точно определить, как он принимает решения.

Потребность в доверии выходит за рамки потребителей. Команды безопасности должны заручиться поддержкой руководства и заинтересованных сторон компании для развертывания ИИ. Объяснимость позволяет им продемонстрировать, как и почему их ИИ-решения эффективны, этичны и безопасны, что повышает их шансы на одобрение.

Получение одобрения помогает быстрее развертывать проекты ИИ и увеличивать их бюджеты. В результате специалисты по безопасности могут извлекать выгоду из этой технологии в большей степени, чем без объяснения причин.

Проблемы с XAI в кибербезопасности

Объяснимость имеет решающее значение для ИИ в области кибербезопасности, и со временем она будет только возрастать. Однако создание и развертывание XAI сопряжено с некоторыми уникальными проблемами. Организации должны распознавать их, чтобы обеспечить эффективное развертывание XAI.

Затраты — одно из наиболее объяснимых препятствий для ИИ. Обучение с учителем может быть дорогостоящим в некоторых ситуациях из-за его требований к помеченным данным. Эти расходы могут ограничить способность некоторых компаний оправдывать проекты искусственного интеллекта в области безопасности.

Точно так же некоторые методы машинного обучения (ML) просто плохо переводятся в объяснения, понятные людям. Обучение с подкреплением — это развивающийся метод машинного обучения. более 22% предприятий внедрение ИИ начинает его использовать. Поскольку обучение с подкреплением обычно происходит в течение длительного периода времени, когда модель может принимать множество взаимосвязанных решений, может быть сложно собрать каждое решение, принятое моделью, и преобразовать его в понятный людям вывод.

Наконец, модели XAI могут потребовать значительных вычислительных ресурсов. Не каждый бизнес имеет оборудование, необходимое для поддержки этих более сложных решений, и масштабирование может повлечь за собой дополнительные затраты. Эта сложность также усложняет построение и обучение этих моделей.

Шаги по эффективному использованию XAI в безопасности

Команды безопасности должны тщательно подходить к XAI, учитывая эти проблемы и важность объяснимости в ИИ для кибербезопасности. Одно из решений — использовать вторую модель ИИ для объяснения первой. Такие инструменты, как ChatGPT, могут объяснять код человеческим языкомпредлагая способ сообщить пользователям, почему модель делает определенный выбор.

Этот подход удобен, если группы безопасности с самого начала используют инструменты ИИ, которые работают медленнее, чем прозрачная модель. Эти альтернативы требуют больше ресурсов и времени на разработку, но дадут лучшие результаты. Сейчас многие компании предлагают готовые инструменты XAI для оптимизации разработки. Также может помочь использование состязательных сетей для понимания процесса обучения ИИ.

В любом случае группы безопасности должны тесно сотрудничать с экспертами по ИИ, чтобы убедиться, что они понимают их модели. Разработка должна быть межведомственным, более совместным процессом, чтобы каждый, кому это необходимо, мог понять решения ИИ. Чтобы этот сдвиг произошел, предприятия должны сделать обучение грамотности в области ИИ своим приоритетом.

ИИ для кибербезопасности должен быть объяснимым

Объяснимый ИИ предлагает прозрачность, повышенную точность и потенциал для постоянных улучшений, что имеет решающее значение для кибербезопасности. Объяснимость станет более важной по мере того, как регулятивное давление и доверие к ИИ станут более важными проблемами.

XAI может усложнить разработку, но преимущества того стоят. Команды безопасности, которые начинают работать с экспертами по ИИ для создания объяснимых моделей с нуля, могут раскрыть весь потенциал ИИ.

Избранное изображение предоставлено: фото Ивана Самкова; Пекселс; Спасибо!