Согласно недавнему отчету, OpenAI, компания, стоящая за ChatGPT, работала над новаторской системой под кодовым названием Q* до временного увольнения генерального директора Сэма Альтмана. отчет от The Guardian. Эта продвинутая модель ИИ продемонстрировала способность решать незнакомые базовые математические задачи, что ознаменовало значительный скачок в возможностях ИИ.

Быстрое развитие Q* вызвало обеспокоенность по поводу безопасности среди исследователей OpenAI, что привело к предупреждению совета директоров о его потенциальной угрозе для человечества. Эта тревога была частью фона недавних беспорядков в OpenAI, в результате которых Альтман был ненадолго отстранен от должности, а затем восстановлен в должности под давлением персонала и инвесторов.

Вопрос OpenAI* и гонка за AGI

Развитие Q* вносит вклад в более широкую дискуссию о темпах прогресса в области искусственного общего интеллекта. AGI представляет собой систему, способную выполнять широкий спектр задач на уровне человеческого интеллекта или выше, потенциально выходя за рамки человеческого контроля. OpenAI находится в авангарде этой гонки, вызывая обеспокоенность среди экспертов по поводу последствий такого быстрого прогресса.

Эндрю Рогойски из Института человеко-ориентированного искусственного интеллекта Университета Суррея прокомментировал важность магистратуры по математическим решениям. Он отметил, что эта присущая магистрам права способность выполнять аналитические задачи представляет собой значительный прогресс в этой области.

Миссия и управление OpenAI

OpenAI, изначально основанная как некоммерческая организация, работает с коммерческой дочерней компанией, управляемой советом директоров. Microsoft выступает ее крупнейшим инвестором. Миссия организации — разработать «безопасный и полезный общий искусственный интеллект на благо человечества». Недавние изменения в управлении OpenAI отражают приверженность безопасности и ответственному развитию ИИ.

Будущее безопасности ИИ

Споры вокруг временного отстранения Альтмана подчеркнули противоречие между быстрым развитием ИИ и безопасностью. Эмметт Шир, кратковременный преемник Альтмана, пояснил, что решение совета директоров не было вызвано конкретными разногласиями по поводу безопасности. Однако этот инцидент подчеркивает проблемы и обязанности, стоящие перед разработчиками ИИ в обеспечении баланса между инновациями, этическими соображениями и безопасностью человека.

Рекомендуемое изображение от Санкета Мишры через Пексели