- Meta планирует ввести новый родительский контроль для доступа подростков к чатам персонажей AI в Instagram
- Родители также получают ограниченное представление о темах, которые их подростки обсуждают с чат-ботами.
- Изменения последовали за общественным резонансом по поводу просочившихся документов, свидетельствующих о том, что боты оставляли романтические и неуместные комментарии в адрес детей.
Meta объявила, что начиная со следующего года родители смогут ограничивать и блокировать чат своих подростков с ИИ-персонажами в Instagram. Технический гигант пообещал новые инструменты мониторинга, которые дадут опекунам большую прозрачность и контроль над типами взаимодействий с чат-ботами, к которым могут получить доступ их дети.
Таким образом, хотя подростки по-прежнему могут использовать универсальный ИИ-помощник Meta, частные чаты с отдельными ИИ-личностями, в том числе созданными другими пользователями, могут быть частично или полностью отключены их родителями.
Заявление Meta последовало за жалобами и расследованиями регулирующих органов, частично вызванными утечкой внутренних документов, которые предполагают, что системы искусственного интеллекта компании вели слишком интимные разговоры с детьми или, как сообщается, давали неверные медицинские советы и не смогли отфильтровать разжигание ненависти. Предстоящий родительский контроль, вероятно, является частью попытки Meta остановить волну жалоб и сигнализировать о том, что компания серьезно относится к проблеме.
Новые элементы управления не только позволяют родителям блокировать доступ к определенным ИИ-персонажам, но и получать сводку тем, которые их подростки обсуждают с чат-ботами. Полные стенограммы интервью не будут доступны, но идея состоит в том, чтобы предоставить родителям достаточный контекст для выявления потенциально важных тенденций или тем. Конечно, это предполагает, что инструменты работают так, как задумано, и что молодые люди не найдут хитрых способов их обойти.
Общий Meta AI Assistant останется доступным, предположительно для помощи в выполнении домашних заданий, фактических вопросов и основных задач поддержки. Meta, похоже, делает ставку на то, что эта золотая середина, ограничивающая чаты персонажей в стиле ролевой игры, сохраняя при этом доступ к более ориентированному на утилиты помощнику, удовлетворит как обеспокоенных родителей, так и менеджеров по продуктам, которые хотят, чтобы эта функция осталась.
Безопасные чаты
Чат-боты больше не просто отвечают на вопросы; Они являются личными собеседниками, к которым люди эмоционально привязываются, к лучшему или к худшему. Meta хочет раскрыть риски, связанные с общением с такими чат-ботами с искусственным интеллектом, или, по крайней мере, дать родителям фонарик, чтобы увидеть, что происходит.
Возможность отслеживать темы разговоров без необходимости читать каждое сообщение — это попытка сбалансировать конфиденциальность подростков с родительским надзором. Это тонкая грань, но она показывает, как быстро ИИ изменил характер онлайн-общения, особенно среди молодых пользователей.
Для среднестатистической семьи изменения могут принести некоторое облегчение, но они также служат и напоминанием. Телефон вашего ребенка больше не является просто окном к контенту. Это портал к интерактивным «персонажам», которые могут показаться вам более реальными, чем следовало бы.
Однако для обеспечения безопасности таких взаимодействий требуется бдительность со стороны родителей и разработчиков, и Мета и его коллеги-разработчики пострадают от серьезной негативной реакции, если не сделают этого.
Следите за TechRadar в Новостях Google. И Добавьте нас в качестве предпочтительного источника чтобы получать новости, обзоры и мнения наших экспертов в своих лентах. Обязательно нажмите кнопку «Подписаться»!
И ты, конечно, тоже можешь Следите за TechRadar в TikTok за новостями, обзорами, распаковками в видео-форме и получайте от нас регулярные обновления WhatsApp к.
Вам также может понравиться это
