Во время упражнения за красную команду в 3 часа ночи мы запустили информацию о входе в систему CTO -потому что один, злокачественный день Div на внутренней стороне выпуска GitHub объявил об этом. Агент работал с использованием браузера, рамки с открытым исходным кодом, которая только собирала идентификацию заголовка в размере 17 миллионов долларов.

Эта 90-секундная проверка концепции иллюстрирует большую угрозу: во время венчурных денег, чтобы сделать агентов с крупной языковой моделью (LLM) быстрее, «щелкните» по своим социальным, организационным и техническим доверительным ограничениям. Автономные агенты просмотра в настоящее время планируют поездки, голосуют счета и читают частные почтовые ящики, но отрасль рассматривает безопасность как элемент, а не как требования к дизайну.