- «Ай Патер» Йошуа Бенгио предупреждает, что гонка ИИ расставляет приоритеты в отношении скорости по сравнению с безопасностью
- Это рискует непредсказуемыми и опасными последствиями
- Он призывает глобальное сотрудничество для обеспечения соблюдения правил ИИ, прежде чем автономные системы трудно контролировать
«Крестный отец Ай» Йошуа Бенгио помог создать основы нейронных сетей, которые сегодня выполняют все типы инструментов искусственного интеллекта, от чат -ботов, которые подражали комическим персонажам, до научных научных сотрудников. Теперь у него есть срочное предупреждение для разработчиков ИИ, как он объяснил в интервью Sky News. Гонка по развитию все больше и больше систем ИИ нарастает в темпе, что, по его мнению, слишком безжалостна.
И дело не только в том, какая компания строит лучший чат -бот или кто получает наибольшее финансирование. Бенгио считает, что быстрый, нерегулируемый шаг к продвинутому ИИ может иметь катастрофические последствия, если безопасность не рассматривается как главным приоритетом.
Бенгио описал, как разработчики, которые мчались друг против друга, стали неряшливыми или принимают опасные аббревиатуры. Хотя скорость может иметь значение, чтобы сыграть новый продукт стоимостью миллиардов и догнать соперника, это может не стоить этого для общества.
Это давление только увеличилось для разработчиков ИИ с ростом китайских компаний искусственного интеллекта, таких как Deedseek, чьи передовые навыки чата привлекли внимание западных компаний и правительств. Вместо того, чтобы замедлить риски и тщательно рассмотреть, крупные технологические компании ускоряют развитие ИИ в целостном спринте для превосходства. Бенгио опасается, что это приведет к переворачиванию положений, неадекватных мер безопасности и систем, которые ведут себя так, как мы еще не понимаем.
Бенгио сказал, что он предупредил о необходимости более сильного контроля ИИ, но недавние события сделали его послание еще более срочным. Нынешний момент — это «поворотный момент», в котором мы либо внедряем значимые правила и протоколы безопасности, либо позволяем спирали развития ИИ во что -то непредсказуемое.
В конце концов, все больше и больше систем ИИ не только обрабатывают информацию, но также могут принимать автономные решения. Эти агенты ИИ способны действовать независимо, а не просто реагировать на пользовательские входы. Это именно то, что Бенгио смотрит на самый опасный путь вперед. Благодаря достаточной вычислительной мощности, ИИ, который может разобраться в стратегии независимых мер, адаптироваться и приема, может быстро стать трудным, если люди захотят вернуть бразды правления.
У тебя есть поглощение
Проблема не только теоретическая. Модели ИИ уже создают финансовые транзакции, управляют логистикой и даже написанием и предоставлением программного обеспечения с минимальным человеческим надзором. Бенгио предупреждает, что мы находимся всего в нескольких шагах от гораздо более сложного, потенциально непредсказуемого поведения искусственного интеллекта. Если такая система используется без строгих защитных мер, последствия раздражающего глотания в эксплуатации для полной безопасности и экономических кризисов могут варьироваться.
Бенгио не требует остановки для развития ИИ. Он дал понять, что он оптимист в отношении навыков ИИ, когда он использовался ответственно для таких вещей, как медицинские и экологические исследования. Он видит только первичный сдвиг в вдумчивой и сознательной работе по технологии ИИ. Его уникальная перспектива может иметь некоторый вес, если он требует, чтобы разработчики ИИ установили этику и безопасность перед конкуренцией с конкурирующими компаниями. По этой причине он принимает участие в политических дискуссиях на таких мероприятиях, как предстоящий международный саммит безопасности искусственного интеллекта в Париже.
Он также считает, что регулирование компаний должно быть укреплено, которые готовы взять на себя ответственность за свои системы. Он должен инвестировать в исследования безопасности, а также в улучшение эффективности, утверждает он, хотя этот баланс трудно представить в сегодняшнем AI Close -Up. В отрасли, в которой скорость соответствует доминированию, ни одна компания не хочет быть первой, кто достиг тормозов.
Глобальное сотрудничество между Бенгио -Тон -Хайтами может не появиться сразу, но если оружие AI продолжилось, предупреждения о Бенгио и других в подобных позициях престижа становятся более неотложными. Он надеется, что отрасль теперь признает риски, а не кризис, который заставляет этот вопрос. Вопрос в том, готов ли мир слушать, пока не стало слишком поздно.
Вы также можете понравиться …
