Искусственный интеллект уже меняет рабочие процессы практически во всех отраслях. Он может значительно сократить время, которое мы тратим на рутинные задачи, и дать нам возможность мыслить более стратегически в нашей повседневной работе.
То же самое происходит и в секторе ИТ и кибербезопасности: проведенный ISACA опрос среди представителей бизнеса и ИТ-специалистов в Европе показал, что почти три четверти (73%) опрошенных нами компаний заявили, что их сотрудники используют ИИ на работе.
Но главная проблема с ИИ, каким бы преобразующим он ни был, заключается в том, что нам необходимо гарантировать, что мы используем его ответственно и безопасно. Наконец, LLM обучаются с использованием данных, которые часто являются конфиденциальными, и нам нужны соответствующие гарантии для этих программ, чтобы миражи не ставили под угрозу целостность нашей работы. Только 17% опрошенных нами организаций имеют официальную и всеобъемлющую политику в области ИИ, в которой изложен подход компании к этим вопросам и представлены лучшие практики использования, даже несмотря на то, что сотрудники используют ИИ на работе.
Главный директор по глобальной стратегии ISACA.
ИИ меняет картину угроз
В то же время киберпреступники также имеют доступ к ИИ и используют его для усиления своей преступной деятельности и возможностей. Это делает их угрозы более убедительными и эффективными, чем когда-либо прежде. Это представляет угрозу не только для частных лиц, но и для компаний. Компании представляют собой сетевые организации с сетью поставщиков и деловых отношений. Если атака происходит на одну компанию, риску подвергаются все организации в сети.
Недавний сбой ИТ-системы CrowdStrike показывает, насколько уязвимы компании, если они испытывают хотя бы один ИТ-сбой или кибератаку. Если пострадает один поставщик услуг в цифровой цепочке поставок, вся цепочка может рухнуть и вызвать массовые сбои в работе — цифровую пандемию. Одно-единственное неконтролируемое обновление, прискорбный результат отсутствия дальновидности и опыта, вызвало хаос во многих ключевых отраслях: от авиации и здравоохранения до банковского дела и телерадиовещания.
Иногда такие инциденты вызваны непреднамеренными ошибками при обновлении программного обеспечения, иногда — результатом кибератаки. Однако ирония заключается в том, что компании, занимающиеся кибербезопасностью, также являются частью цепочки поставок, и те же компании, которые борются за киберустойчивость, сами могут стать жертвами, влияя на непрерывность обслуживания.
Киберэксперты хорошо знают об этом факте. Когда мы спросили респондентов нашего опроса о возможности использования генеративного ИИ злоумышленниками, 61% респондентов выразили крайнюю или очень обеспокоенность тем, что это может произойти. По сравнению с нашими данными прошлогоднего опроса настроения практически не улучшились.
Образование и профессиональная подготовка являются ключом к долгосрочной устойчивости
ИИ используется двумя способами: преступники используют эту технологию в качестве оружия для разработки более сложных атак, и в ответ он используется киберэкспертами, чтобы идти в ногу с развивающимся ландшафтом угроз и лучше обнаруживать и реагировать на эти угрозы. Сотрудники знают, что им нужно не отставать от киберпреступников, самообразовываться и действительно разбираться в ИИ. Однако, когда мы спросили респондентов нашего опроса, насколько они знакомы с ИИ, почти три четверти (74%) ответили, что они в некоторой степени знакомы или не знакомы вообще.
Инцидент CrowdStrike выдвинул на первый план необходимость более надежной и отказоустойчивой цифровой инфраструктуры, а развитие искусственного интеллекта только сделает киберугрозы более значительными. Важно, чтобы мы как отрасль инвестировали в образование и обучение, чтобы избежать подобных кризисов в будущем, а достижения в таких технологиях, как искусственный интеллект, могут стать ключом к более эффективной работе. Правильные протоколы должны быть установлены вовремя, чтобы быстро реагировать на атаки и сбои в работе и минимизировать ущерб и сбои. Однако это невозможно без людей, обладающих навыками создания индивидуальных систем безопасности и обеспечения того, чтобы все участники были обучены их придерживаться.
Если компании хотят защитить себя и своих партнеров в долгосрочной перспективе, одновременно получая выгоды от использования ИИ, они должны обладать необходимыми навыками для выявления новых моделей угроз, рисков и средств контроля. Обучение использованию ИИ в секторе кибербезопасности крайне необходимо — в настоящее время 40% компаний не проводят обучение своих сотрудников техническим специальностям. Кроме того, 34% респондентов считают, что им необходимо будет расширить свои знания об ИИ в течение следующих 6 месяцев, и в целом подавляющее большинство 86% респондентов считают, что это обучение будет необходимо в течение следующих двух лет.
Применяя подход к искусственному интеллекту, который делает упор на обучение и комплексную политику на рабочем месте, компании и сотрудники могут быть уверены, что они используют потенциал искусственного интеллекта и идут в ногу с развивающимися киберугрозами безопасным и ответственным образом, что приносит пользу как бизнесу, так и защите себя. все остальные компании в вашей расширенной сети.
Мы представили лучшую услугу по управлению ИТ-инфраструктурой.
Эта статья была создана в рамках канала Expert Insights от TechRadarPro, где мы рассказываем о лучших и ярких умах в области технологий сегодня. Мнения, выраженные здесь, принадлежат автору и не обязательно отражают точку зрения TechRadarPro или Future plc. Если вы заинтересованы в участии, узнайте больше здесь:
