- Китайские исследователи адаптируют модель Ламы Меты для целей военной разведки
- ChatBIT подчеркивает риски технологии искусственного интеллекта с открытым исходным кодом
- Мета дистанцируется от несанкционированного военного применения Ламы
Модель искусственного интеллекта Llama от Meta имеет открытый исходный код и доступна для бесплатного использования, но в условиях лицензии компании это четко указано. предназначен исключительно для невоенного применения.
Однако существуют опасения по поводу того, как проверять технологию с открытым исходным кодом, чтобы гарантировать, что она не будет использоваться в неправильных целях, и недавние предположения подтверждают эти опасения: в недавних сообщениях говорится, что китайские исследователи связаны с Народно-освободительной армией (НОАК). модель искусственного интеллекта военной ориентации под названием ChatBIT с Llama
Появление ChatBIT подчеркивает потенциал и проблемы технологий с открытым исходным кодом в мире, где доступ к передовому искусственному интеллекту все чаще рассматривается как проблема национальной безопасности.
Китайская модель искусственного интеллекта для военной разведки
Недавнее исследование шести китайских исследователей из трех учреждений, в том числе двух, связанных с Академией военных наук Народно-освободительной армии (AMS), описывает разработку ChatBIT, который был создан с использованием ранней версии модели Ламы Меты.
Интегрировав свои параметры в большую языковую модель Llama 2 13B, исследователи хотели разработать инструмент искусственного интеллекта, ориентированный на военные нужды. Последующая научная работа описывает, как ChatBIT был адаптирован для обработки военных диалогов и поддержки оперативных решений с целью использования примерно 90% возможностей GPT-4. Однако остается неясным, как были рассчитаны эти показатели производительности, поскольку не было раскрыто никаких подробных процедур тестирования или применения на местах.
Сообщается, что аналитики, знакомые с китайским искусственным интеллектом и военными исследованиями, просмотрели эти документы и поддержали утверждения о развитии и функциональности ChatBIT. Они утверждают, что показатели производительности, о которых сообщает ChatBIT, соответствуют экспериментальным приложениям искусственного интеллекта, но отмечают, что отсутствие четких методов сравнительного анализа или доступных наборов данных затрудняет подтверждение утверждений.
Кроме того, расследование провела Рейтер обеспечивает другой уровень поддержки, ссылаясь на источники и аналитиков, которые просматривали материалы, связывающие исследователей, связанных с НОАК, с разработкой ChatBIT. В расследовании говорится, что эти документы и интервью раскрывают попытки китайских военных перепрофилировать мета-модель с открытым исходным кодом для задач разведки и стратегии, что делает это первым опубликованным случаем, когда национальные вооруженные силы адаптируют языковую модель лама для оборонных целей.
Использование ИИ с открытым исходным кодом в военных целях возобновило дискуссию о потенциальных рисках безопасности, связанных с общедоступными технологиями. Meta, как и другие технологические компании, лицензировала Llama для использования в военных целях с четкими ограничениями. Однако, как и во многих проектах с открытым исходным кодом, обеспечить соблюдение таких ограничений практически невозможно. Как только исходный код станет доступен, его можно будет модифицировать и использовать для других целей, что позволит иностранным правительствам адаптировать технологию к своим конкретным потребностям. Случай ChatBIT является наглядным примером этой проблемы, поскольку намерения Меты обходят стороной люди с другими приоритетами.
Это привело к возобновлению призывов в США к более строгому экспортному контролю и дальнейшим ограничениям на доступ Китая к технологиям с открытым исходным кодом и открытым стандартам, таким как RISC-V. Эти шаги направлены на то, чтобы не дать американским технологиям потенциально поддержать военные наступления противника. Законодатели также изучают способы ограничения инвестиций США в китайский сектор искусственного интеллекта, полупроводников и квантовых вычислений, чтобы остановить поток опыта и ресурсов, которые могут способствовать росту китайской технологической индустрии.
Несмотря на опасения по поводу ChatBIT, некоторые эксперты ставят под сомнение его эффективность из-за относительно ограниченных данных, использованных при его разработке. Сообщается, что модель обучается на 100 000 записях военных диалогов, что сравнительно мало по сравнению с огромными наборами данных, используемыми на Западе для обучения современных языковых моделей. Аналитики подозревают, что это может ограничить способность ChatBIT решать сложные военные задачи, особенно когда другие крупные языковые модели обучаются на триллионах точек данных.
Meta также отреагировала на эти сообщения, заявив, что Llama 2 13B LLM, использованная для разработки ChatBIT, теперь является устаревшей версией, и Meta уже работает над Llama 4. Компания также дистанцировалась от НОАК и заявила, что любое неправомерное использование Llama неприемлемо. Молли Монтгомери, директор по государственной политике Meta, заявила: «Любое использование наших моделей Народно-освободительной армией является несанкционированным и противоречит нашей политике приемлемого использования».
Вам также может понравиться это
