Каждый технологический прогресс открывает новые возможности помощи людям, но также и новые формы злоупотреблений, с которыми необходимо бороться. Продолжающийся прогресс в технологии генеративной визуализации за последние несколько лет привел к тревожному увеличению количества созданных изображений и видео, показывающих людей в откровенно сексуальном контексте, которые распространяются в сети без их согласия.

Их иногда называют откровенными «дипфейками», и такой контент может глубоко обеспокоить тех, кого это касается. Вот почему мы инвестировали в Стратегии и системы, помогающие людям лучше контролировать этот контент.

Сегодня мы делимся некоторыми важными обновлениями, которые были разработаны на основе отзывов экспертов и жертв, чтобы лучше защитить людей. К ним относятся обновления наших процессов удаления, которые облегчают пользователям удаление этого типа контента из поиска, а также обновления наших систем ранжирования, чтобы этот тип контента не появлялся в верхних результатах поиска.

Более простые способы удаления контента

В течение многих лет люди могли требовать удаления из поиска ложных и откровенных изображений, не согласованных с нами, в рамках нашей политики. СтратегииСейчас мы разработали системы, упрощающие этот процесс и помогающие людям решать эту проблему в больших масштабах.

Когда кто-то добивается успеха запросить удаление Если в поиске о них есть явный контент, не согласованный с вами, системы Google также будут пытаться отфильтровать любые явные результаты из аналогичных запросов о них. Кроме того, когда кто-то успешно удаляет изображение из поиска в соответствии с нашей политикой, наши системы будут искать и удалять любые дубликаты этого изображения, которые мы находим.

Эти средства защиты уже доказали свою эффективность в борьбе с другими типами изображений, размещенных без согласия, и теперь мы реализовали те же возможности для откровенно поддельных изображений. Эти усилия призваны успокоить пользователей, особенно если они обеспокоены тем, что аналогичный контент может появиться снова в будущем.

Улучшенные системы хранения документов

Поскольку каждый день в Интернете создается так много контента, лучшая защита от вредоносного контента — это создание систем, которые ранжируют высококачественную информацию в верхней части поиска. Таким образом, помимо улучшения наших процессов подачи жалоб и удаления такого типа контента, мы обновляем наши системы ранжирования для запросов с более высоким риском появления явного и ложного контента в поиске.

Во-первых, мы выпускаем обновления рейтинга, которые уменьшат количество явного и ложного контента для многих поисковых запросов. По запросам, которые специально ищут этот контент и включают имена людей, мы будем стараться отображать высококачественный неявный контент, например соответствующие новостные статьи, когда он будет доступен. Обновления, которые мы сделали в этом году, снизили вероятность появления откровенных изображений по этим типам запросов более чем на 70%. Благодаря этим изменениям люди смогут читать о влиянии дипфейков на общество, а не видеть страницы с реальными фальшивыми изображениями, не согласованными с ними.

Также необходимо отличать явный, реальный и согласованный контент (например, сцены обнаженного актера) от явного и фальсифицированного контента (например, дипфейков с участием указанного актера). Хотя различение этого контента является технической проблемой для поисковых систем, мы постоянно совершенствуемся, чтобы лучше выявлять законный контент и снижать рейтинг явного и фальсифицированного контента.

Как правило, если на сайте есть много страниц, которые мы удалили из поиска в соответствии с нашей политикой, это довольно сильный сигнал о том, что это не высококачественный сайт, и мы должны принять это во внимание при ранжировании других страниц на этом сайте. . понижение в должности Сайты, которые получили значительное количество удалений из-за ложных и откровенных изображений. Этот подход хорошо зарекомендовал себя для других типов вредоносного контента, и наше тестирование показывает, что это будет эффективный способ уменьшить количество фейкового откровенного контента в результатах поиска.

Эти изменения представляют собой серьезное обновление нашей системы защиты поиска, но над решением этой проблемы еще предстоит поработать, и мы продолжим разрабатывать новые решения, чтобы помочь тем, кого затронул этот контент. И поскольку эта проблема выходит за рамки поисковых систем, мы продолжим инвестировать в партнерские отношения в масштабах всей отрасли и привлекать экспертов для ее решения как компания.