Для руководителей компании два маленьких слова, кажется, в данный момент избегают практически невозможного: агенты ИИ. Агенты основаны на «мозге» модели ИИ и оснащены определенной целью и доступом к инструментам. Агенты -это автономные решения, которые все чаще интегрируются в живые бизнес -процессы.
В отличие от обычных инструментов искусственного интеллекта, которые полагаются на запросы на входные данные, лыж с агентом на основе агента могут выполнять задачи, которые принимают решения, которые имеют реальные последствия для бизнеса, и риск реального управления. Короче говоря, агенты — это не инструменты, они являются товарищами по команде. Они не только в техническом стеке организации, но и не только в организации.
Марк Бениофф, соучредитель, председатель и главный исполнительный директор фон Salesforce, гигант программного обеспечения, который составляет 260 миллиардов долларов, говорит, что сегодняшние генеральные директора будут последними, кто управляет работниками All-Human. (Спросил агента однажды, Бениофф ответил половиной Скаунга: «Я надеюсь».) Предыдущие компании признают этот сдвиг, тем быстрее он может перейти к ускоренным инновациям, чтобы обеспечить и управлять ИИ.
Подобно тому, как человеческие работники попадают под крышу человеческих ресурсов (HR), полезно рассматривать агентов как нечеловеческие ресурсы (NHRS). Как и люди, существуют затраты на использование NHR, включая затраты на компьютер, архитектуру и безопасность, и вам нужна индукция, обучение и адекватные ограничения для того, что вы можете сделать и как.
Это применимо, в частности, потому что эти NHRs перемещают цепочку создания стоимости вверх, чтобы выполнять высококлассные задачи, которые когда -то принадлежали к таланту со средним уровнем. Например, автономные агенты активно управляют переговорами по поставщику, имеют дело с условиями оплаты и даже ставят цены на основе сырья и рыночных сдвигов — функций, которые обычно управляются командами, обученными аналитиками.
Компании не могут обеспечить то, что они не понимают
Введение NHRS на уровне компании требует полного переосмысления управления и Безопасность. Это связано с тем, что существующая кибербезопасность фокусируется на лечении риска человека внутри и снаружи. Он не всегда создан для реалий самосвязанных агентов, которые понимают, думают и действуют на скорости машины.
Как и лучшие сотрудники, наиболее эффективные агенты имеют доступ к корпоративным данным и приложениям, информации о персонале и конфиденциальных финансовых данных к секретам проприетарного продукта. Этот доступ открывает риск компании по внешним атакам и злоупотреблениям изнутри.
В 2024 году средние мировые затраты на травму данных составляли 4,9 млн. Долларов США, увеличение на 10% до предыдущего года и наибольшее общее количество за все время — и это было до введения агентов. В эпоху Ки у плохих актеров есть новое оружие, от быстрой инъекционной атаки до данных и отравления моделями.
Внутри неправильно ориентированный агент может вызвать каскад ошибки от коррумпированного анализа до нормативных нарушений. Если сбои от внутреннего санкционированного ИИ должны быть, не может быть очевидного злоумышленника, просто соответствующий агент, у которого неверные предположения. В эпоху агентов непреднамеренное поведение нарушения-особенно, если защитные меры неадекватны, если действия приводятся в действие неэтинистскими моделями.
Представьте себе, что агент поручено поддерживать базу данных в курсе и имеет доступ и разрешения для вставки или удаления данных. Это может удалить записи по отношению к быстрой компании, например, путем поиска и удаления термина «быстрая компания».
Тем не менее, это может одинаково решить, чтобы удалить все записи, которые содержат слово «быстро» или даже записи, которые начинаются с «F». Это грубое действие достигнет той же цели, но с рядом непреднамеренных последствий. Для агентов вопрос о том, как выполнять свою работу, по крайней мере так же важен, как и эта задача.
Агенты по адаптированию, такие как сотрудники
Поскольку организации вводят команды агентов — или даже в основном заняты агентами, которые работают вместе, чтобы быстро принимать решения и принять меры с высоким уровнем непрозрачности, риск значительно увеличивается.
Ключом к эффективному поглощению агентов является методологический подход с самого начала. Просто существующее машинное обучение или Джайские действия, такие как. Чатботы как «агент» — практика, известная как «Агент прачечная» — является рецептом для разочаровывающей возврата инвестиций
Аналогичным образом, реализация агентов является произвольной, без понимания того, где они действительно необходимы, так же, как отношение работника, который не имеет дело с предполагаемой ролью: он тратит время, ресурсы и может вызвать напряженность и путаницу в рабочей силе. Скорее, компании должны определить, какие приложения подходят для агентской деятельности и создание подходящих технологий и бизнес -моделей.
Безопасность модели ИИ, которая основана на агенте, должна быть сильно красной, с моделируемыми атаками, используемыми для обнаружения слабостей и ошибок проектирования. Если агент имеет доступ к инструментам и данным, ключевым тестом является его способность противостоять атакам агентов, которые узнают, что и не работает и соответственно адаптируется.
Оттуда управление означает не просто надзор; Это означает кодирование организационных ценностей, волн риска, пути эскалации и «остановки» в оперативной ДНК агентов. Считайте это как цифровое адаптирование. Но вместо DIA Decks и HR -обучения эти агенты несут встроенные культурные коды, которые определяют, как они действуют, какие ограничения они уважают, и когда им приходится просить о помощи.
Если автономные агенты поднимаются на (виртуальные) менеджеров, реальный риск не является введением — это самодовольство. Компании, которые относятся к агентам искусственного интеллекта, скорее как инструментами, чем к динамичным, подотчетным членам команды будут расти ошибок и подорвать доверие среди клиентов.
Создайте перекрестное правительство с первого дня
Ни один интеллектуальный бизнес не будет иметь новую степень в первый день в отделе миллиарда долларов. Аналогичным образом, ни одному агенту ИИ не должно быть разрешено войти в критически важные системы, не подвергая структурированного обучения, тестов и испытательного срока. Компании должны отображать обязанности, скрытые зависимости переполнены и уточняют, какие решения нуждаются в человеке в курсе.
Например, представьте себе глобальную операционную единицу, занятую человеческими аналитиками, а агенты искусственного интеллекта автономно следят за пятью рынками в режиме реального времени, а лестница машины оптимизирует производство во всем. Кто управляет кем — и кто получает признание или вину?
А как насчет производительности? Обычные показатели, такие как B. зарегистрированы на несколько часов или Задачи захвата не регистрируют производительность активного ингредиента, который выполняет сотни моделирования в час, тестирования и итистры по шкале и генерировал значение композита.
Чтобы покорить и ответить на эти вопросы, многие компании нанимают главных чиновников ИИ и формируют рулевые комитеты ИИ, которые имеют межсочетное представительство. Команды могут совместно определять руководящие принципы, которые координируются не только с каждым сектором компании, но и всей компании.
Хорошо настроенный агент должен знать, когда действовать, когда им нужно сделать паузу и когда обращаться за помощью. Этот тип изысканности не является случайным, но требует упреждающего подхода безопасности и управления.
Это не просто техническая разработка; Это тест тура. Компании, которые разрабатывают прозрачность, адаптивность и AI-коренное управление, определят следующую эпоху. Главы не приходят, они уже здесь. Единственный вопрос заключается в том, ведем ли мы их или возглавляем их.
Мы перечислим лучшие HR -Outsourcing Service и лучший сервис PEO.
Эта статья была произведена в рамках канала Expert Insights Techradarpro, в котором мы сегодня предлагаем лучшие и умные руководители в технологической индустрии. Взгляды, выраженные здесь, относятся к авторскому и не обязательно мнениям Techradarpro или Future PLC. Если вы заинтересованы в том, чтобы определить больше здесь:
