Примечание редактора: сегодня Google, Microsoft, OpenAI и Anthropic опубликовали следующее совместное объявление о создании Frontier Model Forum.

Сегодня Anthropic, Google, Microsoft и OpenAI объявляют о создании Frontier Model Forum — новой отраслевой организации, занимающейся безопасной и ответственной разработкой передовых моделей искусственного интеллекта. Frontier Model Forum будет использовать технический и операционный опыт своих компаний-членов на благо всей экосистемы ИИ, например, продвигая технические оценки и тесты, а также разрабатывая общедоступную библиотеку решений для поддержки лучших отраслевых практик и стандартов.

Основными задачами Форума являются:

  1. Продвижение исследований безопасности ИИ способствовать ответственной разработке моделей границ, минимизировать риски и обеспечивать независимую и стандартизированную оценку возможностей и безопасности.
  2. Определите передовой опыт за ответственную разработку и развертывание передовых моделей, помогая общественности понять природу, возможности, ограничения и влияние технологий.
  3. Сотрудничать с политиками, учеными, гражданским обществом и бизнесом делиться знаниями о рисках доверия и безопасности.
  4. Поддерживайте усилия по разработке приложений, которые могут помочь решить самые большие проблемы общества.таких как смягчение последствий изменения климата и адаптация к ним, раннее выявление и профилактика рака, а также противодействие киберугрозам.

Критерии членства

Форум определяет передовые модели как крупномасштабные модели машинного обучения, которые превосходят возможности, присутствующие в настоящее время в самых передовых существующих моделях, и могут выполнять широкий спектр задач.

Членство открыто для организаций, которые:

  • Разработать и внедрить граничные модели (как определено Форумом).
  • Продемонстрировать твердую приверженность модели безопасности границ, в том числе с помощью технических и институциональных подходов.
  • Готовы содействовать продвижению усилий Форума, в том числе участвуя в совместных инициативах и поддерживая разработку и функционирование инициативы.

Форум приглашает организации, соответствующие этим критериям, присоединиться к этим усилиям и сотрудничать, чтобы обеспечить безопасную и ответственную разработку передовых моделей искусственного интеллекта.

ЧИТАТЬ  Xiaomi выпускает версию своего первого электромобиля SU7 мощностью 1526 л.с. и направляется на Нюрбургринг, чтобы побить рекорды.

Чем будет заниматься Frontier Model Forum

Правительства и промышленность согласны с тем, что, хотя ИИ сулит огромные перспективы на благо мира, для снижения рисков необходимы надлежащие меры предосторожности. Важный вклад в эти усилия уже внесли правительства США и Великобритании, Европейский союз, ОЭСР, G7 (через процесс искусственного интеллекта в Хиросиме) и другие.

Чтобы извлечь выгоду из этих усилий, необходима дальнейшая работа над стандартами и оценками безопасности, чтобы обеспечить ответственную разработку и развертывание передовых моделей ИИ. Форум станет средством для межорганизационных дискуссий и действий по безопасности и подотчетности ИИ.

Форум будет посвящен трем ключевым направлениям в предстоящем году для поддержки безопасной и ответственной разработки передовых моделей искусственного интеллекта:

Выявление передовой практики: Содействовать обмену знаниями и передовым опытом между промышленностью, правительствами, гражданским обществом и академическими кругами, уделяя особое внимание стандартам безопасности и методам обеспечения безопасности для снижения широкого спектра потенциальных рисков.

Продвижение исследований безопасности ИИ: Поддержите экосистему безопасности ИИ, определив наиболее важные открытые исследовательские вопросы в области безопасности ИИ. Форум будет координировать исследования для продвижения этих усилий в таких областях, как устойчивость к состязаниям, механистическая интерпретируемость, эволюционный мониторинг, независимый доступ к исследованиям, эмерджентное поведение и обнаружение аномалий. Первоначально основное внимание будет уделяться разработке и совместному использованию общедоступной библиотеки технических оценок и контрольных показателей для передовых моделей ИИ.

Содействовать обмену информацией между предприятиями и правительствами: Создайте надежные и безопасные механизмы для обмена информацией между предприятиями, правительствами и соответствующими заинтересованными сторонами в отношении безопасности и рисков ИИ. Форум будет следовать передовым методам ответственного раскрытия информации в таких областях, как кибербезопасность.

Кент Уокер, президент по международным отношениям, Google и Alphabet, сказал: «Мы рады работать с другими ведущими компаниями, делясь своим техническим опытом для продвижения ответственных инноваций в области ИИ. Нам всем придется работать вместе, чтобы убедиться, что ИИ приносит пользу всем.

ЧИТАТЬ  Изменения в агентстве вращающихся дверей: AAF, Bold, TWSC и другие.

Брэд Смит, вице-президент и президент Microsoft сказал: «Компании, создающие технологию искусственного интеллекта, несут ответственность за то, чтобы она была безопасной, защищенной и оставалась под контролем человека. Эта инициатива является важным шагом в объединении технологической отрасли для ответственного продвижения ИИ и решения проблем на благо всего человечества.

Анна Маканджу, вице-президент по глобальным вопросам OpenAI, сказала: «Передовые технологии искусственного интеллекта могут принести огромную пользу обществу, и возможность реализовать этот потенциал требует надзора и управления. Крайне важно, чтобы компании, работающие с ИИ, особенно те, которые работают над самыми мощными моделями, выстраивались на общих основаниях и продвигали продуманные и адаптируемые методы обеспечения безопасности, чтобы гарантировать, что мощные инструменты ИИ предлагают максимально возможные преимущества. Это срочная работа, и этот форум имеет хорошие возможности для быстрых действий по улучшению состояния безопасности ИИ. »

Дарио Амодеи, генеральный директор Anthropic сказал: «Anthropic считает, что искусственный интеллект может коренным образом изменить то, как устроен мир. Мы рады сотрудничеству с промышленностью, гражданским обществом, правительством и академическими кругами для продвижения безопасных и ответственных технологий. Форум Frontier Model будет играть решающую роль в координации передового опыта и обмене исследованиями в области безопасности границ с использованием ИИ.

Как будет работать Frontier Model Forum

В течение следующих нескольких месяцев Frontier Model Forum создаст консультативный совет, который поможет определить его стратегию и приоритеты, представляя разнообразие опыта и точек зрения.

Компании-учредители также создадут ключевые институциональные механизмы, включая устав, управление и финансирование, а также целевую группу и совет директоров, которые будут руководить этими усилиями. В ближайшие недели мы планируем проконсультироваться с гражданским обществом и правительствами по поводу дизайна Форума и эффективных способов сотрудничества.

ЧИТАТЬ  Редактор Google Рекламы версии 2.8 получил изображения AI, рекомендации по бренду, новый Справочный центр и многое другое

Форум Frontier Model приветствует возможность помочь поддержать и внести свой вклад в существующие правительственные и многосторонние инициативы, такие как процесс G7 в Хиросиме, работа ОЭСР по рискам, стандартам и социальному влиянию ИИ, а также Совет по бизнесу и технологиям США-ЕС.

Форум также будет стремиться опираться на ценную работу промышленности, гражданского общества и существующие исследовательские усилия в каждом из своих направлений работы. Такие инициативы, как Партнерство с ИИ И MLCommons продолжать вносить важный вклад в более широкое сообщество ИИ, и Форум будет изучать способы сотрудничества и поддержки этих и других ценных многосторонних усилий.

Source