- Генеральный директор Anpropic Дарио Амодеей оценивает 25% шанс -KI
- Он все еще считает, что стоит инвестировать в инвестиции и что преимущества перевешивают риски
- Его комментарии идут на растущие публичные и политические дискуссии о рисках и регулировании искусственного интеллекта
В определенных обстоятельствах шансы на один из четырех. Например, это гораздо лучшие шансы, чем большинство игр казино. Тем не менее, по -видимому, маловероятно, что генеральный директор антропного Дарио Амодеей, похоже, не обеспокоен после того, как он нашел вероятность того, что искусственный интеллект приводит к катастрофу на 25%.
«Я думаю, что есть 25% шанс, что все действительно идет очень плохо», — сказал Амодеей на саммите Axios AI + DC, когда его спросили о его (P) -вероятности гибели — веры в ИИ. Но он больше сосредотачивается на «75% вероятности того, что дела идут очень хорошо».
С «действительно, очень плохим» он не означает, что ваш телефон «утка» автоматически к чему -то худшему. Он думает, что сценарии, которые достаточно велики, чтобы угрожать социальным системам, экзистенциальным рискам, серьезного насилию ИИ и выдающиеся результаты, которые могут быть катастрофическими.
Полем @Jimvandehei спрашивает генерального директора @Anthropic @DarioAmodei, какая вероятность того, что он, ki, заканчивается бедствиями: «Я думаю, что есть 25% шанс, что все действительно идет очень плохо». #AxioSaisummit pic.twitter.com/9d7eqldync17 сентября 2025 года
Для индустрии, которая часто пропитывала утопические обещания или была сведена к научному фримонному жаненингу, Амодес был как вероятностью апокалипсиса, так и вопросом о том, почему он все еще управляет технологией.
Amodei не одинок, чтобы выразить дискомфорт, но он находится в редком положении. Будучи генеральным директором компании, стоящей за Клодом, он не пассивный наблюдатель. Это формирует траекторию этой технологии в режиме реального времени. Его команда строит именно те системы, потенциал и опасность которого он взвешивает.
Если кто-то говорил вам, что ваш автомобиль каждый раз, когда вы поворачиваете ключ, дает шанс 1 в 4 года, что вы можете пробежать больше. Амодеей, очевидно, стал механиком и сначала проверил машину перед началом.
У тебя есть гибель
Это также не единственное предупреждение, которое Amodei опубликовало до KI. До этого он предупредил, что ИИ может удалить половину всех сотрудников в иске начального уровня и что тревога выступила за тревогу против нас экспорта из высококлассных чипов. Это делает кадр Amodeis таким полезным. Он признает риск, количественную неопределенность, но оставляет место для агентства.
С другой стороны, Amodeis — это «75% шансов, что все идет очень хорошо» для себя. Это подразумевает убежденность в том, что ИИ может принести огромные преимущества для всех. Это может привести к улучшению медицины, более эффективному производству и, возможно, даже стратегиям борьбы с экзистенциальными кризисами, такими как изменение климата (хотя ключевым элементом решения может быть энергия, необходимая для выполнения моделей ИИ).
Тем не менее, риск 25% требует, чтобы эти преимущества были тщательно созданы с учетом мер безопасности и регулирования. Потому что, если будущее на 75% блестяще и сломано на 25%, вопрос в том, что мы будем делать, чтобы сохранить вес справа?
Вы также могли бы понравиться
