- Сэм Альтман защищал усилия OpenAI по обеспечению безопасности после того, как Илон Маск обвинил ChatGPT в нескольких смертях
- Альтман назвал безопасность ИИ «действительно сложной» и подчеркнул баланс между защитой и удобством использования.
- OpenAI сталкивается с многочисленными исками о неправомерной смерти, связанными с утверждениями о том, что ChatGPT ухудшил психическое здоровье
Сэм Альтман, генеральный директор OpenAI, не известен тем, что преувеличивает, как работает ChatGPT. Однако он признал, что сложно сделать чат-бота с искусственным интеллектом одновременно безопасным и полезным. Илон Маск, по-видимому, спровоцировал это осознание противоречивыми публикациями в X (ранее Twitter). Маск предостерег людей от использования ChatGPT и поделился ссылкой на статью, в которой утверждалась связь между ИИ-помощником и девятью смертями.
Горячий обмен мнениями в социальных сетях между двумя самыми влиятельными фигурами в области искусственного интеллекта привел к чему-то большему, чем просто ушибы эго или юридические шрамы. Пост Маска не затрагивал более широкий контекст смертей или связанных с ними судебных исков, с которыми сталкивается OpenAI, но Альтман явно чувствовал себя обязанным ответить.
Его ответ был немного более искренним, чем обычная скучная корпоративная формула. Вместо этого он представил идеи, лежащие в основе балансирования OpenAI по обеспечению безопасности ChatGPT и других инструментов искусственного интеллекта для миллионов людей, а также защитил архитектуру и защитные ограждения ChatGPT. «Мы должны защищать уязвимых пользователей, обеспечивая при этом, чтобы наши меры защиты по-прежнему позволяли всем нашим пользователям получать выгоду от наших инструментов».
Иногда вы жалуетесь, что ChatGPT слишком ограничителен, и в таких случаях утверждаете, что он слишком свободен. Им пользуются почти миллиард человек, и некоторые из них могут находиться в очень хрупком психическом состоянии. Мы продолжим делать все возможное, чтобы исправить это, и мы чувствуем себя огромными… https://t.co/U6r03nsHzg20 января 2026 г.
Похвалив протоколы безопасности OpenAI и сложность баланса между снижением вреда и пользой от продукта, Альтман предположил, что Маск не имеет права выдвигать обвинения об опасностях системы автопилота Tesla.
Он сказал, что его собственного опыта было достаточно, чтобы убедить его в том, что «для Теслы совсем не обязательно выпустить его». Особо отметив Маска, он добавил: «Я даже не буду приступать к некоторым решениям Грока».
Поскольку биржа бурно развивалась на всех платформах, наиболее заметным было не обычное позерство миллиардера, а необычайно открытое объяснение Альтмана того, что на самом деле означает безопасность ИИ. Для OpenAI, компании, которая использует ChatGPT одновременно для школьников, терапевтов, программистов и руководителей, определение «безопасности» означает баланс между полезностью и избеганием проблем — целей, которые часто противоречат друг другу.
Альтман публично не прокомментировал отдельные иски о смерти в результате противоправных действий, поданные против OpenAI. Но он настаивал на том, что признание реального вреда не требует чрезмерного упрощения проблемы. ИИ отражает входные данные, и его развивающиеся реакции требуют модерации и безопасности, выходящих за рамки стандартных условий обслуживания.
Битва за безопасность ChatGPT
OpenAI утверждает, что приложила немало усилий, чтобы сделать ChatGPT более безопасным с помощью новых версий. Существует ряд функций безопасности, предназначенных для обнаружения признаков стресса, включая мысли о самоубийстве. ChatGPT выдает заявления об отказе от ответственности, останавливает определенные взаимодействия и направляет пользователей к ресурсам по психическому здоровью, когда обнаруживает предупреждающие знаки. OpenAI также утверждает, что ее модели будут отказываться от использования насильственного контента, когда это возможно.
Общественность может подумать, что это просто, но пост Альтмана указывает на скрытую напряженность. ChatGPT используется в миллиардах непредсказуемых диалоговых пространств на разных языках, культурах и в разных эмоциональных состояниях. Слишком жесткая модерация сделает ИИ бесполезным во многих из этих обстоятельств, но слишком сильное смягчение правил увеличит потенциальный риск опасных и нездоровых взаимодействий.
Сравнение ИИ с автоматическими автопилотами — не совсем идеальная аналогия, несмотря на комментарий Альтмана. Однако можно возразить, что, хотя дороги регулируются независимо от того, находится ли за рулем человек или робот, подсказки ИИ действуют на более ухабистой дороге. Не существует централизованного управления трафиком, определяющего, как чат-бот должен реагировать на подростка в кризисе или человека с параноидальным бредом. В этом вакууме такие компании, как OpenAI, должны создавать свои собственные правила и оперативно их совершенствовать.
Личный элемент добавляет к аргументу еще один уровень. Компании Альтмана и Маска ведут затяжную судебную тяжбу. Маск подает в суд на OpenAI и Альтмана из-за перехода компании от некоммерческой исследовательской лаборатории к модели с ограниченной прибылью, утверждая, что он был введен в заблуждение, когда пожертвовал 38 миллионов долларов на помощь в создании организации. Он утверждает, что компания теперь ставит корпоративную прибыль выше общественной пользы. Альтман говорит, что это изменение было необходимо для разработки конкурентоспособных моделей и сохранения ответственного пути развития ИИ. Разговор о безопасности — это философский и технический аспект войны в залах заседаний и судебных заседаниях по поводу того, каким должен быть OpenAI.
Независимо от того, договорятся ли Маск и Альтман когда-либо о рисках или хотя бы вежливо разговаривают в Интернете, все разработчики ИИ должны следовать за Альтманом и быть более прозрачными в отношении того, как выглядит безопасность ИИ и как ее можно достичь.
Следите за TechRadar в Новостях Google. И Добавьте нас в качестве предпочтительного источника чтобы получать новости, обзоры и мнения наших экспертов в своих лентах. Обязательно нажмите кнопку «Подписаться»!
И ты, конечно, тоже можешь Следите за TechRadar в TikTok за новостями, обзорами, распаковками в видео-форме и получайте от нас регулярные обновления WhatsApp к.
Лучшие бизнес-ноутбуки на любой бюджет
