Согласно недавнему исследованию WIRED, OpenAI заявляет, что добивается прогресса в своих возможностях управления сверхинтеллектуальными системами искусственного интеллекта. отчет. Команда Superalignment, возглавляемая главным научным сотрудником OpenAI Ильей Суцкевером, разработала метод управления поведением моделей ИИ по мере того, как они становятся все более умными.
Команда Superalignment, созданная в июле, сосредоточена на задаче обеспечения того, чтобы ИИ оставался безопасным и полезным, поскольку он приближается к человеческому интеллекту и превосходит его. «AGI приближается очень быстро», — сказал WIRED Леопольд Ашенбреннер, исследователь OpenAI. «Мы увидим сверхчеловеческие модели, они будут обладать огромными возможностями и могут быть очень, очень опасными, но у нас пока нет методов контроля над ними».
В новом исследовательском документе OpenAI представлена техника, называемая надзором, при которой менее продвинутая модель ИИ управляет поведением более сложной. Этот метод направлен на сохранение превосходных возможностей модели, обеспечивая при этом соблюдение правил безопасности и этики. Этот подход рассматривается как решающий шаг на пути к управлению потенциальными сверхчеловеческими ИИ.
Эксперименты включали использование текстового генератора GPT-2 от OpenAI для обучения GPT-4, более совершенной системы. Исследователи протестировали два метода, чтобы предотвратить ухудшение производительности GPT-4. Первый метод включал обучение все более крупных моделей, а второй добавлял алгоритмическую настройку GPT-4. Последний оказался более эффективным, хотя исследователи признают, что идеальный контроль поведения пока не гарантирован.
Реакция отрасли и будущие направления
Дэн Хендрикс, директор Центра безопасности ИИ, высоко оценил активный подход OpenAI к управлению сверхчеловеческими ИИ. Работа команды Superalignment рассматривается как важный первый шаг, но для обеспечения эффективных систем управления необходимы дальнейшие исследования и разработки.
OpenAI планирует выделить значительную часть своих вычислительных мощностей проекту Superalignment и призывает к внешнему сотрудничеству. Компания в партнерстве с Эриком Шмидтом предлагает гранты в размере 10 миллионов долларов исследователям, работающим над методами управления искусственным интеллектом. Кроме того, в следующем году состоится конференция по супервыравниванию для дальнейшего изучения этой важной области.
Илья Суцкевер, соучредитель OpenAI и ключевая фигура в технических достижениях компании, является одним из руководителей команды Superalignment. Его участие в проекте имеет решающее значение, особенно после недавнего кризиса управления в OpenAI. Опыт и лидерство Суцкевера играют важную роль в продвижении проекта.
Разработка методов управления сверхразумным ИИ — сложная и актуальная задача. По мере быстрого развития технологий искусственного интеллекта обеспечение их соответствия человеческим ценностям и безопасности становится все более важным. Инициатива OpenAI в этой области знаменует собой значительный шаг, но путь к надежным и эффективным системам управления ИИ продолжается и требует совместных усилий мирового исследовательского сообщества ИИ.
