Как и ожидалось, на этой неделе Openai выпустила своего первого автономного ИИ-агента под названием «Оператор». Оператор может торговать независимо от вас на вашем компьютере с помощью веб-браузера и делать практически все, что можно сделать в веб-браузере.
Это позволяет выполнять такие задачи, как бронирование столика в ресторане или покупка продуктов. Вы просто говорите, что хотите, и это выглядит как надежный дворецкий с доступом в Интернет, который выполнил задание или хочет вернуться к вам с вопросом. Скажем, в 19:00 столика нет. Сэр или мадам вместо этого организуют столик в 19:45?
Конечно, оператор не называет вас «сэр» или «мадам», но вполне возможно. По сути, это тот самый Интернет-дворецкий, которого нам обещали почти 30 лет назад, когда был Аск Дживс.
Помнишь, ты спрашивал Дживса? Это была поисковая система 1997 года с изображением настоящего дворецкого, готового найти для вас что-то в Интернете. Персонаж был назван в честь Дживса, слуги Берти Вустера в художественных произведениях П.Г. Вудхауза. Вместо того, чтобы вводить поисковые запросы, Дживс посоветовал вам искать вещи, используя вопросы на естественном языке, такие как: Б. «Найдите мне идеальное сопровождение к жареному ужину».
Конечно, мы все знаем, что Google выиграл войну поисковых систем, а в 2006 году Ask отказался от образа Дживса и стал просто Ask.com. Но каким-то образом мы прошли полный круг с ИИ, и благодаря таким технологиям, как поиск ChatGPT и путанице, поиск по запросам на естественном языке снова в моде. Как наши интернет-дворецкие, только теперь мы называем их ИИ-агентами…
Аги – настоящая цель
Ни для кого не секрет, что Сэм Альтман и OpenAI действительно интересуются Agi, общим искусственным интеллектом, часто называемым сверхинтеллектом. Это конечная цель OpenAI и причина ее основания. Чат-боты, подобные Chatgpt, покорили мир, но их популярность — почти как непредвиденное последствие (к этой теме я вернусь позже) гонки за Agi.
В видео Чтобы продвинуть релиз оператора, один из сотрудников OpenAI подходит к Сэму Альтману и говорит: [Operator is] «Об устранении еще одного узкого места на пути к Аги».
Хотя агенты явно интересны, они не являются целью OpenAI; Вы всего лишь еще один шаг на пути. У AGI есть потенциал радикально изменить наш мир. Логично, что как только мы создадим искусственный интеллект, который будет умнее нас, он сможет создавать еще более умные версии самого себя, и уровень интеллекта будет быстро возрастать.
Нам остается только надеяться, что оно не решит нас уничтожить. Не волнуйтесь, Джеффори Хинтон, которого часто называют «Крестным отцом ИИ», недавно был назван «Крестным отцом ИИ». Он увеличил свои шансы найти технологию, которая уничтожила человечество. до 20%.
И здесь мы возвращаемся к теме непредвиденных последствий. Многие эксперты видят в агентах ИИ угрозу. Выступая на Всемирном экономическом форуме в Давосе на этой неделе, пионер искусственного интеллекта Йошуа Бенджио предупредил, что агенты ИИ могут иметь катастрофические последствия для человечества.
Поговорите с бизнес-инсайдеры, Он сказал: «Все катастрофические сценарии, связанные с Аги или сверхинтеллектом, случаются, когда у нас есть агенты». Бенджио предпочел бы двигаться вперед к созданию AGI без использования агентов, позволяя им делать все автономно. «Весь ИИ для науки и медицины, все, что волнует людей, не является агентным», — сказал Бенджио. «И мы можем продолжать создавать более мощные, неагентные системы».
Падение человечества
Так может ли быть так, что что-то, ведущее себя как интернет-дворецкий и выполняющее огромные задачи, например, помочь мне купить продукты по ошибке, дает ИИ возможность захватить мир?
На данный момент трудно представить, как автоматизированная программа, медленно выполняющая процесс бронирования столика в ресторане с помощью веб-браузера, на самом деле будет их использовать — и я не совсем уверен, что они будут это делать.
Лично я не чувствую себя комфортно, передавая данные своей кредитной карты компьютерной программе, которая покупает вещи, чтобы сэкономить мне время, потому что я просто не уверен, что когда-нибудь поверю, что не могу совершить ошибку. Вы бы?
Возможно, Openai нужно придать своему оператору более человечное лицо, если он хочет, чтобы я ему доверял, и, как оказалось, я думаю, что старый добрый Дживс в наши дни мог бы искать работу…
Вам также может понравиться
