Вот что вам следует учитывать в следующий раз, когда вы будете использовать инструмент искусственного интеллекта. Большинство людей, изучающих искусственный интеллект, считают, что это может означать конец человечества. Это плохие новости. Хорошей новостью является то, что вероятность того, что это произойдет, сильно зависит от того, кого вы слушаете.
p(doom) — это «вероятность гибели», или вероятность того, что ИИ захватит планету или сделает что-то, чтобы уничтожить нас, например, создаст биологическое оружие или начнет ядерную войну. На самом счастливом конце шкалы p (гибель) Ян ЛеКун, один из «Трех крестных отцов ИИ», в настоящее время работающий в Meta, оценивает вероятность <0,01%, что менее вероятно, чем уничтожение астероида.
К сожалению, никто даже отдаленно не настроен столь оптимистично. Джефф Хинтон, один из трех других крестных отцов ИИ, говорит, что вероятность того, что ИИ уничтожит нас в ближайшие 20 лет, составляет 10%, а Йошуа Бенджио, третий из трех крестных отцов ИИ, увеличивает эту цифру до 20%. .
Вероятность 99,999999%
На самом пессимистичном конце шкалы находится Роман Ямпольский, ученый в области безопасности искусственного интеллекта и директор Лаборатории кибербезопасности в Университете Луисвилля. Он считает, что это почти гарантированно произойдет. Он оценивает вероятность уничтожения человечества ИИ в 99,999999%.
Илон Маск заявил на семинаре «Великие дебаты об искусственном интеллекте» на четырехдневном саммите изобилия в начале этого месяца: «Я думаю, что есть некоторый шанс, что он уничтожит человечество. Я, вероятно, согласен с Джеффом Хинтоном, что это около 10% или 20% или что-то в этом роде», прежде чем добавить: «Я думаю, что вероятный позитивный сценарий перевешивает негативный сценарий».
В ответ Ямпольский сказал: Бизнес-инсайдер Он считал, что Маск был «слишком консервативен» в своих оценках и что нам следует отказаться от разработки технологии сейчас, потому что будет практически невозможно контролировать ИИ, когда он станет более продвинутым.
«Я не уверен, почему он вообще считает, что развивать эту технологию — хорошая идея», — сказал Ямплоский. «Если он [Musk] беспокоится о том, что конкуренты окажутся первыми, это не имеет значения, потому что неконтролируемый сверхинтеллект так же плох, независимо от того, кто его создал».
На саммите у Маска было решение, как не дать ИИ уничтожить человечество. «Не заставляйте их лгать, даже если правда неприятна», — сказал Маск. «Это очень важно. Не позволяйте ИИ лгать».
Если вам интересно, где в настоящее время находятся другие исследователи ИИ и прогнозисты по шкале p (гибель), вы можете просмотреть список Здесь.
Больше от TechRadar Pro
