Генеральный директор Meta Марк Цукерберг выступил с речью на закрытом форуме AI Insight в Сенате, посвященном продолжению лидерства Америки в разработке ИИ как безопасного пути к получению экономических выгод от ИИ.
Он решительно выступал за роль американских компаний в установлении технологических стандартов для разработки искусственного интеллекта как с открытым, так и с закрытым исходным кодом.
Марк Цукерберг особо подчеркнул преимущества искусственного интеллекта с открытым исходным кодом:
«…Открытый исходный код демократизирует доступ к этим инструментам, и это помогает уравнять правила игры и поощрять инновации для людей и компаний, что, я думаю, ценно для нашей экономики в целом».
Содержание
Цукерберг поддерживает инновации и защитные меры
Одним из первых вопросов, о которых говорил генеральный директор Meta, были инновации и безопасность.
Он также напомнил, что ИИ — это не просто генеративный ИИ, такой как ChatGPT.
Он способствовал надзору за различными формами искусственного интеллекта, такими как робототехника, зрение и обработка естественного языка.
В его заявлениях говорилось, что он приветствовал упущение и отметил, что необходимо решить две проблемы:
- ИИ-безопасность
- Американское технологическое лидерство
ИИ-безопасность
Цукерберг продвигал ИИ с открытым исходным кодом как способ демократизации технологий.
Он продвигал ИИ как с закрытым, так и с открытым исходным кодом как безопасный, потому что компании сознательно уделяют внимание безопасности в своих продуктах, а совместный характер открытого исходного кода помогает обнаруживать небезопасные или нежелательные результаты.
Он сказал:
«…компании должны гарантировать, что мы разрабатываем и используем продукты ответственно.
В Meta мы с самого начала встраиваем средства защиты в наши модели и продукты генеративного ИИ и работаем с другими, чтобы вместе установить защитные ограждения.
Мы считаем, что политики, ученые, гражданское общество и промышленность должны работать вместе, чтобы минимизировать потенциальные риски этой новой технологии, но также максимизировать потенциальные выгоды.
…Широко признано, что программное обеспечение с открытым исходным кодом безопаснее и надежнее, поскольку больше людей могут изучить его, чтобы выявить проблемы, а затем поделиться и распространить решения, которые затем можно использовать для защиты систем».
Однако утверждение о том, что программное обеспечение с открытым исходным кодом становится все более безопасным, опровергается недавними событиями.
Hugging Face недавно выпустила Falcon 180B, LLM с открытым исходным кодом, который не имеет барьеров безопасности, но при этом достаточно мощный, чтобы конкурировать с самым мощным искусственным интеллектом Google, Palm 2.
Hugging Face выпустила Falcon 180B как базовую версию с пониманием того, что пользователи должны будут обеспечить ее безопасность.
Программа американского лидерства Цукерберга
Цукерберг также продвигал видение американского лидерства в области технологий искусственного интеллекта.
В настоящее время Америка лидирует в мире в области инноваций в области искусственного интеллекта.
Количество человеческих ресурсов в американских компаниях Кремниевой долины превышает любую другую страну.
Ни одна другая страна или регион не может сравниться по масштабам с американскими инновациями.
OpenAI только что объявила об открытии офиса в Дублине для создания европейской индустрии искусственного интеллекта, что еще больше укрепит лидерство Америки.
Но Цукерберг поддержал идею о том, что правительство Соединенных Штатов должно работать с промышленностью, чтобы сохранить технологическое лидерство и инновации Америки.
Цукерберг объяснил:
«…Я думаю, важно, чтобы Америка продолжала лидировать в этой области и определять технический стандарт, который использует мир.
Следующая ведущая модель с открытым исходным кодом родом из Абу-Даби, над ней работают и другие страны.
Я считаю, что лучше, если стандарты будут установлены американскими компаниями, которые смогут работать с нашим правительством над формированием этих моделей по важным вопросам».
Суперинтеллектуальный ИИ
Марк Цукерберг странно расплывчато представил, что должно произойти, когда мы достигнем точки сверхразумного ИИ, намекая на общий искусственный интеллект (AGI).
AGI — это тип ИИ, который может учиться и думать, как человек, очень независимо и может решать неизвестные проблемы так же, как это делают люди, полагаясь на текущие знания.
Существуют разногласия по поводу того, как вообще распознавать ОИИ, хотя лично Сэм Альтман определяет его как ИИ, который может создать невозможные для человека инновации в науке.
Цукерберг сказал:
«Если в какой-то момент в будущем эти системы достигнут уровня сверхразума, тогда эти ценности изменятся, и мы пересмотрим этот подход».
В итоге Цукерберг выразил положительное отношение к партнерству с правительством.
Хотя еще слишком рано говорить о том, как должно выглядеть это партнерство, надзор или регулирование, Цукерберг, похоже, в своем выступлении приветствовал это партнерство как способ помочь Соединенным Штатам продолжать оставаться технологическим лидером в сфере искусственного интеллекта.
Прочтите комментарии Марка Цукерберга:
Высказывания Марка Цукерберга на AI Forum
Рекомендованное изображение с сайта Shutterstock/Geena123.
