Когда люди, находящиеся в авангарде технологий искусственного интеллекта, говорят о потенциальных катастрофических последствиях высокоинтеллектуальных систем искусственного интеллекта, вероятно, стоит обратить на это внимание.

Всего несколько месяцев назад Джеффри Хинтон, человек, которого считают одним из «крестных отцов» ИИ за его новаторскую работу в этой области, сказал, что с быстрым развитием технологий «не исключено», что сверхинтеллектуальный ИИ — чем человеческий дух считается выше, — может в конечном итоге привести к вымиранию человечества.

А Сэм Альтман, генеральный директор OpenAI, компании, создавшей вирусный чат-бот ChatGPT, признал, что он «немного напуган» возможным влиянием передовых систем искусственного интеллекта на общество.

Альтман настолько обеспокоен, что в среду его компания объявила о создании новой организации под названием Superalignment, призванной гарантировать, что сверхинтеллектуальный ИИ не приведет к хаосу или чему-то еще худшему.

«Сверхразум станет самой влиятельной технологией, которую когда-либо изобретало человечество, и может помочь нам решить многие из самых насущных мировых проблем». OpenAI сказал в качестве вклада в презентацию новой инициативы. «Но огромная сила сверхразума также может быть очень опасной и привести к лишению человечества прав или даже к исчезновению человечества».

OpenAI заявила, что, хотя сверхинтеллектуальный ИИ кажется далеким, он считает, что он может быть разработан к 2030 году. И он с готовностью признает, что в настоящее время не существует системы, «чтобы направлять или контролировать потенциально сверхразумный ИИ и предотвращать его исчезновение. Разбойник».

Чтобы справиться с ситуацией, OpenAI хочет создать «автоматизированного исследователя выравнивания почти человеческого уровня», который будет проводить проверки безопасности сверхинтеллектуального ИИ, добавляя, что управление этими рисками также потребует новых институтов для управления и решения проблемы требуется выравнивание сверхразума.

Чтобы Superalignment был эффективным, OpenAI должен собрать команду лучших исследователей и инженеров по машинному обучению мирового уровня.

Компания очень открыто рассказала о своих усилиях, назвав их «невероятно амбициозной целью», но также признав, что «нет никаких гарантий успеха». Но он добавляет, что «оптимистично, что целенаправленные, согласованные усилия могут решить эту проблему».

Новые инструменты искусственного интеллекта, такие как ChatGPT от OpenAI, Bard от Google и многие другие, настолько революционны, что эксперты уверены, что даже на этом уровне до сверхразума рабочее место и общество в целом столкнутся с фундаментальными изменениями в ближайшем будущем.

Из-за этого правительства во всем мире пытаются наверстать упущенное, спеша ввести правила для быстро развивающейся индустрии искусственного интеллекта, чтобы обеспечить безопасное и ответственное использование технологии. Однако, пока не будет сформирован единый орган, у каждой страны будут свои взгляды на то, как лучше всего использовать эту технологию, а это означает, что эти правила могут сильно различаться и приводить к существенно разным результатам. И именно эти разные подходы еще больше усложняют достижение цели супервыравнивания.

Рекомендации редактора