Все агенты ИИ -все гнев -на самом деле, недавно проведенное исследование подтвердило, что 96% европейских компаний к 2026 году для использования агентов ИИ.
Агентам KI, естественно, нуждается в целом серии разрешений, чтобы действовать во имя пользователя. Все от вашего календаря до деталей платежа и даже потенциально конфиденциальной информации компании.
Это оставляет потенциал для этого доступа в чужие руки или даже для агента искусственного интеллекта, чтобы сделать «злодея» и выполнять задачи, которые вы не одобрили. Существует большое давление, чтобы принять агентов ИИ, поскольку компании по всему миру помогают стать более продуктивными, но многие делают это, прежде чем они установят правильный восковой сайт.
Содержание
Что такое агенты ИИ?
Мы поговорили с Emea Ciso Стивеном МакДермидом и президентом Auth0 Шивом Рамджи, чтобы узнать, как важно обеспечить эти нечеловеческие идентичности (NHIS).
Агенты искусственного интеллекта довольно самостоятельны — это программные системы, которые выполняют автономные задачи во имя пользователя. Вы используете генеративные модели ИИ и можете одновременно обрабатывать информацию, будь то язык, текст, видео или код.
Это новый блестящий тип технологий, которую многие люди используют в своей личной и личной жизни. Но, как и во всех технологиях, эксперты по кибербезопасности предупреждают, что эти агенты должны использоваться с осторожностью.
Чтобы выполнить задачи на ваше имя, агент ИИ должен иметь доступ к вашим системам, таким как ваш календарь, E -Mail, программы лояльности и даже информацию о кредитной карте.
По словам МакДермида, это неизбежно, что люди будут использовать эту технологию, но это должно быть осторожно выполнено.
«Вот почему это так важно, потому что реальность такова, что люди будут играть с этим», — отмечает он.
«Вы будете стараться быть инновационными, как вы слышали, все находятся под давлением, больше связаны с меньшим количеством — ИИ — очень быстрый способ сделать это, но это также очень быстрый способ открыть некоторые риски, раскрыть данные и, возможно, подвергаться воздействию ваших пользователей. Я думаю, что это все большее беспокойство».
Каковы риски?
Конечно, это представляет значительные риски, если агент не защищен должным образом. ИИ виновен и может легко манипулировать.
Это здорово, если вы хотите, чтобы она расставила приоритеты в вашей работе, но это означает, что киберпреступники могут сделать модели одинаково работать для вас.
Когда ваш ИИ будет скомпрометирован, они могут подвергаться воздействию ряда уровней.
«Это конфиденциальное потолок данных, ваша личная информация обнаружена, и риск является законным для финансового обеспечения правил в разных странах», — предупреждает Рамджи.
Это также не только теоретическое. Риски иллюстрируются недавними расходами с хорошим Платформа рекрутинга McDonalds AI, которая была поручена нанять -хотя слабая ссылка в этом случае была невероятно базовым паролем (123456), агент ИИ имел доступ ко всем данным, которые он собрал, включая личную информацию, и в общей сложности 64 миллионов записей было выявлено, чтобы попросить опасности просить информацию, чтобы попросить информацию.
Как вы можете их закрепить?
К сожалению, это нелегкая задача для обеспечения этого NHIS. «С ИИ существует большее давление, чтобы реализовать это изменение. Я думаю [same level of] Управление », — говорит МакДермид.
Окта выполняет миссию по обеспечению ИИ, вставив агентов в их вещество безопасности личности. Ваша платформа помогает идентифицировать рискованные конфигурации и управлять разрешениями агента, чтобы убедиться, что ваш агент имеет доступ только к тому, что необходимо — не дольше, чем необходимо.
«Каждый должен начать обеспечить безопасность, прежде чем играть с ИИ, потому что, к сожалению, видели заголовки, уже были некоторые примеры этого [breaches] Держись », — подчеркивает МакДермид.
Окто также помогает поддерживать непрерывную безопасность для активных агентов, захватывая и реагируя аномальное или рискованное поведение. Это означает, что они предупреждены, когда их агент выглядит так, будто он быстро.
Доступ к наименьшим привилегиям стандартизирован для обеспечения процесса аутентификации для агентов, и четкий путь изучения помогает следить за каждым агентом, чтобы убедиться, что они остаются совместимыми и в дополнение к любому агенту, действующему в их имя.
Разрыв в правилах?
Окта также представила новый набор стандартов, Cross App Access (XAA). Они пытаются помочь всей отрасли защитить себя и установить протоколы, чтобы помочь командам безопасности опередить актеров угрозы.
«Это не будет серебряный мяч», — предупреждает МакДермид. «Это не остановит все эти атаки в будущем, но, безусловно, предложит нам лучший способ обеспечить, чтобы мы получили технические функции там и внутри продуктов и в рамках услуг, которые мы предлагаем».
Для команд безопасности эти стандарты становятся частью более полных усилий сотрудничества по защите себя и своих коллег. Как подчеркивает МакДермид, игроки угрозы уже работают вместе, что дает им преимущество с новыми практиками и атаками.
«Игроки угрозы на самом деле делятся методами, они делятся платформами. Они работают вместе, как когорта, а клиенты и организации не делают. Я думаю, что мы должны там улучшить».
Обучение друг у друга является важной частью защиты отрасли, утверждает МакДермид. Легко быть запуганным или перегруженным явно постоянными атаками, которые мы видим в заголовках, но для того, чтобы действительно исправить риски, команды должны учиться на этих инцидентах и измерить свои собственные инструменты безопасности против этих атак.
«Вы должны продолжать пытаться обеспечить правительство через эти средства контроля и сохранить этот кибергигиен, потому что я думаю, что если вы не знаете, как выглядят атаки, не судите свой собственный контроль против вас».
Он не предупреждает людей об использовании этой технологии — довольно наоборот. ИС -агенты используются независимо от того, согласны ли компании или нет. Поэтому важно установить руководящие принципы, чтобы обеспечить безопасное использование — раньше, а не позже.
Вы также могли бы понравиться
