OpenAI только что обновила свою «Спецификацию модели» – по сути свод правил для своего ИИ – с добавлением определенного набора Принципы отбора U18 (U18). Создан, чтобы изменить способ общения ChatGPT с подростками 13–17 лет. Этот шаг является четким признанием того, что подростки – это не просто «мини-взрослые»; У них разные эмоциональные потребности и потребности в развитии, которые требуют более строгих ограничений, особенно когда разговоры становятся напряженными или рискованными.

Новая основа для взаимодействия подростков с искусственным интеллектом

В этом обновлении подробно описано, как ChatGPT будет обращаться с пользователями-подростками, придерживаясь при этом общих правил, применимых ко всем остальным. По мнению OpenAI, речь идет о создании более безопасного и соответствующего возрасту опыта с упором на предотвращение и прозрачность.

Это не просто случайные правила; Принципы U18 основаны на науке о развитии и проверены внешними экспертами, в том числе Американской психологической ассоциацией.

Эта концепция основана на четырех ключевых обещаниях: поставить безопасность подростков превыше всего (даже если это делает ИИ менее «полезным» на данный момент), подтолкнуть подростков к реальной поддержке вместо того, чтобы полагаться на чат-бота, обращаться с ними как с настоящими подростками, а не как с маленькими детьми или взрослыми взрослыми, и честно говорить об ограничениях ИИ.

Эти принципы определяют, как ChatGPT будет действовать с особой осторожностью при обсуждении таких тем, как членовредительство, сексуальные ролевые игры, опасные вызовы, употребление психоактивных веществ, проблемы с изображением тела или просьбы хранить в секрете небезопасное поведение.

Что это значит для семей и что будет дальше

Это важно, поскольку ИИ быстро становится стандартным инструментом, с помощью которого молодые люди учатся и находят ответы. Без четких границ существует реальный риск того, что подростки обратятся к ИИ в те моменты, когда им действительно нужен родитель, врач или консультант.

OpenAI утверждает, что эти новые правила гарантируют, что помощник предложит более безопасные альтернативы, установит строгие границы и предложит подростку найти взрослого, которому он доверяет, если чат переходит на опасную территорию. Когда ситуация выглядит как чрезвычайная ситуация, система настроена на то, чтобы направить их на горячие линии или в службы экстренной помощи.

Это обеспечивает немного большую безопасность для родителей. OpenAI связывает эти новые принципы со своим проектом безопасности подростков и существующим родительским контролем. Защита также будет распространена на новые функции, такие как групповые чаты, браузер ChatGPT Atlas и приложение Sora, а также на встроенные напоминания о необходимости сделать перерыв, чтобы дети не застревали перед экраном.

Заглядывая в будущее, OpenAI начинает внедрять инструмент прогнозирования возраста для личных учетных записей ChatGPT. Эта система пытается угадать, является ли пользователь несовершеннолетним, и автоматически включает родительский контроль.

Если это небезопасно, на всякий случай по умолчанию будет выбран более безопасный вариант для U18. Компания заявляет, что это не «единое и готовое» решение; Они планируют и дальше совершенствовать эту защиту на основе новых исследований и отзывов, давая понять, что обеспечение безопасности подростков будет долгосрочным проектом.