В ближайшем будущем ИИ-агенты, такие как Пикси из GPTConsole, Интерпретаторы кода от OpenAIи многие другие готовы совершить революцию в сфере разработки программного обеспечения. Они обещают ускорить выполнение рутинных задач по программированию и даже автономно создавать полноценные программные среды. Однако их расширенные возможности ставят под сомнение будущую роль и актуальность разработчиков-людей.

Поскольку эти агенты искусственного интеллекта продолжают распространяться, их эффективность и скорость потенциально могут уменьшить уникальную ценность, которую приносят разработчики-люди. Быстрый рост использования ИИ в программировании может изменить не только повседневные задачи разработчиков, но и иметь долгосрочные последствия для рынков труда и систем образования, которые готовят людей к работе в сфере технологий. Ник Бостром поднимает две ключевые проблемы, связанные с ИИ.

Первый, названный «Тезис ортогональности», предполагает, что ИИ может быть очень умным, но не обязательно разделять человеческие цели. Вторая, известная как «Проблема ценностной загрузки», подчеркивает, насколько сложно научить ИИ иметь человеческие ценности. Обе эти идеи порождают более важную проблему — «Проблему контроля», которая касается проблем удержания этих все более умных ИИ под контролем человека.

Без надлежащего руководства эти агенты ИИ могут действовать способами, несовместимыми с человеческими целями или этикой. Эти опасения усугубляют существующие трудности в эффективном управлении такими могущественными организациями.

Несмотря на эти проблемы, непрерывный запуск новых агентов ИИ предлагает неожиданную положительную сторону. Разработчики программного обеспечения сегодня сталкиваются с острой необходимостью совершенствовать свои навыки и внедрять инновации, как никогда раньше. В мире, где агенты ИИ ежедневно внедряются тысячами, акцент на людях смещается в сторону качеств, которые ИИ не может воспроизвести, таких как творческое решение проблем, этические соображения и тонкое понимание человеческих потребностей.

Вместо того, чтобы рассматривать рост ИИ как угрозу, это может стать плодотворным моментом для процветания человеческой изобретательности. Сосредоточившись на наших уникальных человеческих силах, мы сможем не просто сосуществовать с искусственным интеллектом, но и синергетически сотрудничать, чтобы создать будущее, которое усилит лучшее из обоих миров. Это чувство безотлагательности усиливается экспоненциальным ростом технологий, зафиксированным в «Законе ускорения отдачи» Рэя Курцвейла.

• Биологическая эволюция
  • От простых форм к сложным формам: миллиарды лет.
  • Сложные формы для гуманоидов: сотни миллионов лет
• Культурная Эволюция
  • От охотников-собирателей до сельскохозяйственных обществ: тысячи лет
  • От сельскохозяйственных обществ к индустриальным обществам: несколько столетий
• Языковая эволюция
  • От пиктографических языков к алфавитным языкам: тысячи лет
  • От алфавитных языков к цифровым языкам (Интернет): десятилетия
• Эволюция технологий
  • Поход к верховой езде: тысячи лет
  • Верховая езда на автомобилях: несколько столетий
• Информационные технологии
  • От мэйнфреймов к персональным компьютерам: десятилетия
  • От персональных компьютеров до смартфонов: менее десяти лет
• Генетические и биомедицинские технологии
  • Раннее секвенирование ДНК для первого полного генома человека: десятилетия
  • Первый полный геном человека для быстрого и доступного секвенирования генома: несколько лет
• ИИ в обработке естественного языка
  • От 1,5 млрд параметров (GPT-2, 2019 г.) до 175 млрд параметров (GPT-3, 2020 г.): увеличение более чем в 100 раз всего за один год.
• ИИ в распознавании изображений
  • Уровень ошибок снизился с более чем 25% (2011 г.) до менее 3% (2017 г.): количество ошибок снизилось более чем в восемь раз за шесть лет.
• ИИ в играх
  • От обученного человеком ИИ, выигравшего чемпионат по го (АльфаГо, 2016) до ИИ, обучающегося овладению го, шахматами и сёги (AlphaZero, 2017): значительный скачок в способности к самостоятельному обучению всего за один год.

«Закон ускорения отдачи», Рэй Курцвейл усиливает актуальность, указывая на то, что развитие ИИ будет не только продолжаться, но и ускоряться, резко сокращая наше время на адаптацию и внедрение инноваций. Идея проста: прогресс не является линейным, а ускоряется со временем.

Например, простым формам жизни потребовались миллиарды лет, чтобы превратиться в сложные, но лишь часть этого времени прошла путь от сложных форм до гуманоидов. Этот принцип распространяется на культурные и технологические изменения, например, на скорость, с которой мы перешли от мэйнфреймов к смартфонам. Такой быстрый прогресс сокращает наше время на адаптацию, отражая потребность разработчиков вводить инновации и быстро адаптироваться. Ускоряющиеся темпы не только увеличивают важность сосредоточения внимания на наших незаменимых человеческих качествах, но и усиливают необходимость подготовки к будущему, в котором будут доминировать интеллектуальные машины.

«Закон ускорения отдачи» не только предсказывает быстрое развитие возможностей ИИ, но и предполагает будущее, в котором ИИ станет неотъемлемой частью научных открытий и художественного творчества. Представьте себе агента искусственного интеллекта, который мог бы самостоятельно разрабатывать новые алгоритмы, тестировать их и даже запатентовать, прежде чем человек-разработчик сможет концептуализировать эту идею. Или ИИ, который мог бы писать сложные музыкальные композиции или новаторскую литературу, бросая вызов самой сути человеческого творчества.

Этот скачок может переопределить отношения человека и ИИ. Люди могут перейти от роли «творцов» к «кураторам», сосредоточившись на продвижении идей и инноваций, созданных ИИ, через этическую и социальную призму. Наша роль может сместиться в сторону обеспечения того, чтобы инновации, основанные на искусственном интеллекте, были полезными и безопасными, что повысит важность этических навыков принятия решений и надзора.

Тем не менее, существует также концепция «сингулярности», согласно которой способности ИИ превосходят человеческий интеллект до такой степени, что они становятся для нас непостижимыми. Если это произойдет, наше внимание сместится с использования ИИ в качестве инструмента на подготовку к существованию, в котором люди не будут самыми разумными существами. Этот этап, хотя и является теоретическим, требует от человечества срочного создания этической основы, которая обеспечит соответствие целей ИИ нашим, прежде чем они станут слишком продвинутыми, чтобы их можно было контролировать.

Этот потенциальный сдвиг в динамике интеллекта усложняет проблему. Это подчеркивает необходимость человеческой адаптивности и предвидения, особенно когда сроки таких драматических изменений остаются неопределенными.

Итак, мы сталкиваемся с парадоксом: быстрое развитие ИИ может стать либо величайшим союзником человечества в достижении невообразимого прогресса, либо его самой большой экзистенциальной проблемой. Ключ в том, как мы, как вид, готовимся к этому быстро приближающемуся будущему и ориентируемся в нем.

Рекомендованное изображение: предоставлено автором; Пексели; Спасибо!