- Meta теперь будет работать с правительственными учреждениями над разработкой военного применения.
- Высказывались опасения по поводу рисков безопасности для ИИ.
- Исследователи находят доказательства того, что Китай уже использовал Ламу для обороны
Meta объявила, что предлагает правительственным организациям использовать свою генеративную модель искусственного интеллекта Llama для «приложений национальной безопасности» и работает с агентствами и подрядчиками США для поддержки их работы.
Партнерами Meta являются Lockheed Martin, AWS и Oracle. В качестве примера компания приводит сотрудничество с Oracle для «синтеза документов по техническому обслуживанию самолетов», чтобы технические специалисты могли диагностировать проблемы «более быстро и точно».
Сообщается также, что Lockheed Martin интегрировала Llama в свою фабрику искусственного интеллекта, что, по словам Meta, ускорило генерацию кода, анализ данных и улучшило бизнес-процессы.
Постепенные изменения политики
Это существенное отличие от Политики допустимого использования Llama, которая запрещает использование моделей для «военных, военных, ядерных отраслей или приложений, шпионажа» и конкретно запрещает разработку оружия и пропаганду насилия.
Некоторые ставят под сомнение использование ИИ в обороне, ссылаясь на проблемы безопасности, такие как потенциально скомпрометированные данные. Эксперты предупреждают, что другие уязвимости, такие как предвзятость и галлюцинации, присущи ИИ, и их невозможно избежать.
Последние отчеты могут стать толчком к такому радикальному изменению политики. Китай использовал модель в своих собственных военных применениях. Сообщается, что государство использовало Ламу для сбора и обработки разведывательной информации, создавая «ЧатБИТ» для военного диалога и ответов на вопросы.
Конечно, это нарушило условия обслуживания Llama, но, поскольку модель является общедоступной и имеет открытый исходный код, обеспечить соблюдение политики сложно.
«В глобальной конкуренции за ИИ предполагаемая роль единственной и устаревшей версии американской модели с открытым исходным кодом не имеет значения, когда мы знаем, что Китай уже инвестирует более триллиона долларов, чтобы превзойти США в ИИ», — сказал Мета в своем докладе. заявление.
Meta подтвердила, что она также сделает исключения для правительственных учреждений в других странах Five Eyes – Канаде, Австралии, Великобритании и Новой Зеландии.
Над TechCrunch