YouTube предпринимает шаги по борьбе с киберзапугиванием и преследованием на своей платформе, обновляя свою политику, запрещающую контент, который использует искусственный интеллект для имитации несовершеннолетних и других жертв преступлений, рассказывающих о своей собственной смерти или опыте насилия, согласно Грань. Этот шаг направлен против тревожной тенденции в реальном криминальном контенте, когда голоса, генерируемые искусственным интеллектом, часто детские, используются для описания ужасных актов насилия в громких делах.
Появление этого жанра контента вызвало серьезные этические проблемы, особенно среди семей жертв, запечатленных в таких видеороликах. Эти изображения, созданные с помощью искусственного интеллекта и реалистично имитирующие голоса несовершеннолетних и других жертв, были названы пострадавшими «отвратительными». Обновление политики YouTube направлено на решение этих проблем путем удаления такого контента с платформы и наложения штрафов на создателей, нарушающих новые правила.
Согласно обновленной политике, любой контент, нарушающий эти правила, приведет к наказанию канала создателя. Этот удар не только приводит к удалению оскорбительного контента, но также накладывает временные ограничения на возможность пользователя взаимодействовать с платформой. Например, первое предупреждение может помешать пользователю загружать новые видео в течение недели. Повторные нарушения в течение 90-дневного периода могут привести к более суровым наказаниям, включая потенциальное удаление канала с YouTube.
Позиция YouTube в отношении синтетического контента
Обновление политики появилось в связи с тем, что такие платформы, как YouTube, представили инструменты создания на основе искусственного интеллекта, что требует новых правил в отношении синтетического контента, который может ввести в заблуждение или нанести вред пользователям. Другие платформы, такие как TikTok, теперь требуют от создателей маркировать контент, созданный искусственным интеллектом. YouTube также ввел строгую политику в отношении голосовых клонов музыкантов с помощью искусственного интеллекта, а также набор более мягких правил для других типов контента.
Решение YouTube обновить свою политику в отношении киберзапугивания и преследования отражает растущую потребность в регулировании контента, создаваемого искусственным интеллектом, особенно когда он затрагивает такие деликатные темы, как жертвы преступлений. Занимая твердую позицию в отношении такого тревожного контента, YouTube уделяет приоритетное внимание безопасности и достоинству людей, особенно несовершеннолетних, и решает этические проблемы, возникающие из-за передовых технологий искусственного интеллекта при создании контента.
