Примечание редактора: сегодня Google, Microsoft, OpenAI и Anthropic опубликовали следующее совместное объявление о создании Frontier Model Forum.
Сегодня Anthropic, Google, Microsoft и OpenAI объявляют о создании Frontier Model Forum — новой отраслевой организации, занимающейся безопасной и ответственной разработкой передовых моделей искусственного интеллекта. Frontier Model Forum будет использовать технический и операционный опыт своих компаний-членов на благо всей экосистемы ИИ, например, продвигая технические оценки и тесты, а также разрабатывая общедоступную библиотеку решений для поддержки лучших отраслевых практик и стандартов.
Основными задачами Форума являются:
- Продвижение исследований безопасности ИИ способствовать ответственной разработке моделей границ, минимизировать риски и обеспечивать независимую и стандартизированную оценку возможностей и безопасности.
- Определите передовой опыт за ответственную разработку и развертывание передовых моделей, помогая общественности понять природу, возможности, ограничения и влияние технологий.
- Сотрудничать с политиками, учеными, гражданским обществом и бизнесом делиться знаниями о рисках доверия и безопасности.
- Поддерживайте усилия по разработке приложений, которые могут помочь решить самые большие проблемы общества.таких как смягчение последствий изменения климата и адаптация к ним, раннее выявление и профилактика рака, а также противодействие киберугрозам.
Критерии членства
Форум определяет передовые модели как крупномасштабные модели машинного обучения, которые превосходят возможности, присутствующие в настоящее время в самых передовых существующих моделях, и могут выполнять широкий спектр задач.
Членство открыто для организаций, которые:
- Разработать и внедрить граничные модели (как определено Форумом).
- Продемонстрировать твердую приверженность модели безопасности границ, в том числе с помощью технических и институциональных подходов.
- Готовы содействовать продвижению усилий Форума, в том числе участвуя в совместных инициативах и поддерживая разработку и функционирование инициативы.
Форум приглашает организации, соответствующие этим критериям, присоединиться к этим усилиям и сотрудничать, чтобы обеспечить безопасную и ответственную разработку передовых моделей искусственного интеллекта.
Чем будет заниматься Frontier Model Forum
Правительства и промышленность согласны с тем, что, хотя ИИ сулит огромные перспективы на благо мира, для снижения рисков необходимы надлежащие меры предосторожности. Важный вклад в эти усилия уже внесли правительства США и Великобритании, Европейский союз, ОЭСР, G7 (через процесс искусственного интеллекта в Хиросиме) и другие.
Чтобы извлечь выгоду из этих усилий, необходима дальнейшая работа над стандартами и оценками безопасности, чтобы обеспечить ответственную разработку и развертывание передовых моделей ИИ. Форум станет средством для межорганизационных дискуссий и действий по безопасности и подотчетности ИИ.
Форум будет посвящен трем ключевым направлениям в предстоящем году для поддержки безопасной и ответственной разработки передовых моделей искусственного интеллекта:
Выявление передовой практики: Содействовать обмену знаниями и передовым опытом между промышленностью, правительствами, гражданским обществом и академическими кругами, уделяя особое внимание стандартам безопасности и методам обеспечения безопасности для снижения широкого спектра потенциальных рисков.
Продвижение исследований безопасности ИИ: Поддержите экосистему безопасности ИИ, определив наиболее важные открытые исследовательские вопросы в области безопасности ИИ. Форум будет координировать исследования для продвижения этих усилий в таких областях, как устойчивость к состязаниям, механистическая интерпретируемость, эволюционный мониторинг, независимый доступ к исследованиям, эмерджентное поведение и обнаружение аномалий. Первоначально основное внимание будет уделяться разработке и совместному использованию общедоступной библиотеки технических оценок и контрольных показателей для передовых моделей ИИ.
Содействовать обмену информацией между предприятиями и правительствами: Создайте надежные и безопасные механизмы для обмена информацией между предприятиями, правительствами и соответствующими заинтересованными сторонами в отношении безопасности и рисков ИИ. Форум будет следовать передовым методам ответственного раскрытия информации в таких областях, как кибербезопасность.
Кент Уокер, президент по международным отношениям, Google и Alphabet, сказал: «Мы рады работать с другими ведущими компаниями, делясь своим техническим опытом для продвижения ответственных инноваций в области ИИ. Нам всем придется работать вместе, чтобы убедиться, что ИИ приносит пользу всем.
Брэд Смит, вице-президент и президент Microsoft сказал: «Компании, создающие технологию искусственного интеллекта, несут ответственность за то, чтобы она была безопасной, защищенной и оставалась под контролем человека. Эта инициатива является важным шагом в объединении технологической отрасли для ответственного продвижения ИИ и решения проблем на благо всего человечества.
Анна Маканджу, вице-президент по глобальным вопросам OpenAI, сказала: «Передовые технологии искусственного интеллекта могут принести огромную пользу обществу, и возможность реализовать этот потенциал требует надзора и управления. Крайне важно, чтобы компании, работающие с ИИ, особенно те, которые работают над самыми мощными моделями, выстраивались на общих основаниях и продвигали продуманные и адаптируемые методы обеспечения безопасности, чтобы гарантировать, что мощные инструменты ИИ предлагают максимально возможные преимущества. Это срочная работа, и этот форум имеет хорошие возможности для быстрых действий по улучшению состояния безопасности ИИ. »
Дарио Амодеи, генеральный директор Anthropic сказал: «Anthropic считает, что искусственный интеллект может коренным образом изменить то, как устроен мир. Мы рады сотрудничеству с промышленностью, гражданским обществом, правительством и академическими кругами для продвижения безопасных и ответственных технологий. Форум Frontier Model будет играть решающую роль в координации передового опыта и обмене исследованиями в области безопасности границ с использованием ИИ.
Как будет работать Frontier Model Forum
В течение следующих нескольких месяцев Frontier Model Forum создаст консультативный совет, который поможет определить его стратегию и приоритеты, представляя разнообразие опыта и точек зрения.
Компании-учредители также создадут ключевые институциональные механизмы, включая устав, управление и финансирование, а также целевую группу и совет директоров, которые будут руководить этими усилиями. В ближайшие недели мы планируем проконсультироваться с гражданским обществом и правительствами по поводу дизайна Форума и эффективных способов сотрудничества.
Форум Frontier Model приветствует возможность помочь поддержать и внести свой вклад в существующие правительственные и многосторонние инициативы, такие как процесс G7 в Хиросиме, работа ОЭСР по рискам, стандартам и социальному влиянию ИИ, а также Совет по бизнесу и технологиям США-ЕС.
Форум также будет стремиться опираться на ценную работу промышленности, гражданского общества и существующие исследовательские усилия в каждом из своих направлений работы. Такие инициативы, как Партнерство с ИИ И MLCommons продолжать вносить важный вклад в более широкое сообщество ИИ, и Форум будет изучать способы сотрудничества и поддержки этих и других ценных многосторонних усилий.