Создателям YouTube вскоре придется соблюдать новые правила платформы для контента, созданного или измененного с использованием ИИ.

Требования, подробно описанные в следующих разделах, направлены на то, чтобы сбалансировать возможности, предлагаемые ИИ, с безопасностью пользователей.

Обязательная маркировка и раскрытие информации

Существенное изменение требует от создателей информировать зрителей, когда контент содержит реалистичные изменения, созданные искусственным интеллектом, или синтетические медиа, изображающие события или язык, которых не было.

К ним относятся дипфейки, на которых видно, что кто-то делает или говорит то, чего он не делал.

Ярлыки, указывающие на измененное или искусственное содержимое, в поле описания являются обязательными. YouTube предоставил макеты, демонстрирующие, как могут выглядеть эти описания.

Для деликатных тем, таких как выборы, стихийные бедствия, должностные лица и конфликты, может потребоваться дополнительная четкая маркировка непосредственно на видеоплеере.

По данным YouTube, авторы, которые систематически не соблюдают требования о раскрытии информации, сталкиваются с самыми разными последствиями: от удаления видео до блокировки аккаунта или исключения из партнерской программы YouTube. Компания пообещала тесно сотрудничать с разработчиками перед запуском, чтобы обеспечить всестороннее понимание.

Новые возможности для запросов на удаление

YouTube позволяет людям без согласия запрашивать удаление контента, созданного искусственным интеллектом, используя лицо или голос идентифицируемого человека. К ним относятся дипфейки, в которых используется генерация искусственного интеллекта для имитации уникальных голосов или внешности.

Музыкальные партнеры вскоре смогут требовать удаления ИИ-музыки, имитирующей пение или рэп исполнителя. YouTube заявил, что при оценке запросов на удаление учитывает такие факторы, как пародийность, общественный интерес и актуальность.

Улучшенная модерация контента с помощью ИИ.

YouTube заявил, что уже использует ИИ для улучшения модерации со стороны рецензентов-людей, в том числе использует машинное обучение для быстрого и масштабного обнаружения возникающих злоупотреблений.

Генеративный искусственный интеллект помогает дополнять обучающие данные, чтобы YouTube мог быстрее обнаруживать новые типы угроз и снижать риск заражения рецензентов вредоносным контентом.

Ответственная разработка новых инструментов искусственного интеллекта

При разработке новых инструментов для создания искусственного интеллекта YouTube уделяет больше внимания ответственности, чем скорости. В настоящее время компания работает над созданием мер, предотвращающих создание контента, нарушающего правила, из ее систем искусственного интеллекта.

Компания фокусируется на изучении и улучшении защиты посредством обратной связи с пользователями и состязательного тестирования для противодействия неизбежным попыткам злоупотреблений.

Применение новой политики

Хотя детали правоприменения не разглашаются, у YouTube есть несколько вариантов обеспечения соблюдения новых требований.

Компания, скорее всего, будет использовать сочетание человеческого и автоматизированного контроля.

Одним из способов обеспечения соблюдения этой политики для YouTube является обучение существующих систем модерации контента помечать видео, содержащие характеристики созданных искусственным интеллектом медиа, для которых не существует надлежащего раскрытия информации.

Выборочные проверки партнерских учетных записей, загружающих ИИ-контент, также могут выявить нарушения.

Еще одним способом поддержания этой политики было бы усиление краудсорсинга, позволяющее пользователям сообщать о нераскрытых материалах ИИ.

Что бы YouTube ни делал, последовательное правоприменение будет иметь решающее значение для установления ожиданий и норм в отношении раскрытия информации.

Заглядывая вперед

YouTube выразил восторг по поводу творческого потенциала ИИ, но предупредил о рисках. Компания намерена работать с сообществом разработчиков для создания взаимовыгодного будущего искусственного интеллекта.

Полное обновление политики предоставляет создателям дополнительную информацию о том, чего ожидать. Чтобы сохранить хорошую репутацию вашего аккаунта, важно быть в курсе изменений правил YouTube.

---

Рекомендованное изображение: Icons Gate/Shutterstock