Контент о местных предприятиях играет важную роль, помогая людям находить самую свежую информацию, независимо от того, ищут ли они продуктовый магазин, открывающийся допоздна, на Картах или узнают, что люди говорят о новой местной пекарне в ходе исследования. В 2023 году мы ежедневно получали около 20 миллионов публикаций на Картах и ​​Поиске, включая обновления часов работы, рейтингов, фотографий, обзоров, видео и многого другого. Чтобы гарантировать, что эта информация остается точной в быстро меняющемся мире, мы используем комбинацию технологий и обученных операторов, а также регулярно сотрудничаем со всей отраслью для борьбы с злоумышленниками.

Вот как мы обновили наши системы, чтобы помочь нам выявлять и удалять больше фейковых отзывов, чем когда-либо прежде, и как мы использовали их в сочетании с другими методами, чтобы остановить широко распространенное мошенничество в Интернете. Кроме того, мы делимся прогрессом, которого мы достигли в 2023 году, чтобы предоставленный контент был полезен всем.

Новый алгоритм машинного обучения помогает нам быстрее обнаруживать фейковые отзывы

Перед публикацией обзоры проходят тщательную проверку нашей системой модерации, но работа на этом не заканчивается. Наши системы постоянно отслеживают предоставленный контент и отслеживают подозрительную активность с течением времени. В прошлом году мы запустили новый алгоритм машинного обучения, который еще быстрее обнаруживает сомнительные шаблоны отзывов. Он делает это, ежедневно анализируя долгосрочные сигналы, например, если рецензент оставляет один и тот же отзыв о нескольких компаниях или если компания получает внезапное увеличение количества отзывов с 1 или 5 звездами. В 2023 году этот новый алгоритм позволил нам удалить на 45% больше фейковых отзывов, чем в предыдущем году.

Как новый алгоритм в действии помог остановить мошенников

Это обновление помогает обнаруживать как единичные случаи, так и более широкие схемы атак. Например, сеть мошенников ложно утверждала, что за небольшую плату они подключают людей к высокооплачиваемым онлайн-заданиям, таким как написание фальшивых обзоров или клики по интернет-рекламе. Наш новый алгоритм быстро выявил рост количества подозрительных отзывов благодаря своей способности постоянно анализировать закономерности, например, публиковал ли уже аккаунт отзывы о других целевых функциях.

После этого наша команда следователей проанализировала отчеты продавцов, которые в последнее время заметили рост количества фейковых 5-звездочных отзывов, и даже работала с людьми, с которыми мошенники связались на других платформах. После того как мы определили закономерности, например целевые категории бизнеса, мы усовершенствовали наши алгоритмы, чтобы помочь защитить сотни целевых предприятий от злоумышленников.

Всего за несколько недель мы обнаружили более пяти миллионов попыток фальшивых отзывов, связанных с этим мошенничеством. Чтобы это мошенничество не повлияло на других, мы быстро отключили вредоносные учетные записи, связанные с мошенничеством, и установили защиту для сотен предприятий. Мы также поделились совет с пользователями для обнаружения мошенничества, чтобы они могли оставаться в курсе и быть бдительными. Благодаря быстрому обнаружению и принятию мер мы смогли решить эту проблему и защитить наше сообщество.

Наш прогресс в 2023 году

В 2023 году мы добились значительного прогресса в борьбе с фейковым контентом благодаря обновленным технологиям и обученным аналитикам. Вот некоторые из ключевых шагов, которые мы предприняли за последний год для защиты отзывов о местных компаниях на Картах и ​​в Поиске Google.

• Благодаря нашим масштабируемым алгоритмам машинного обучения мы в этом году заблокировали или удалили более 170 миллионов нарушающих правила отзывов — более чем на 45% больше, чем в 2022 году. Также было удалено или заблокировано более 12 миллионов фейковых бизнес-профилей.
• Улучшения в алгоритмах модерации видео, такие как обнаружение фальшивых телефонных номеров, помогли нам обнаружить 14 миллионов видео, нарушающих правила в 2023 году — на 7 миллионов больше, чем в предыдущем году.
• Владельцев бизнеса защитили от более 2 миллионов попыток злоумышленниками, пытающимися заявить права на бизнес-профили, которые им не принадлежали – более чем на миллион больше, чем в 2022 году. более 123 000 компаний после того, как наши системы обнаруживают подозрительную активность и попытки злоупотреблений.

Судебные иски и более широкое сотрудничество с представителями отрасли также играют важную роль в нашем подходе к борьбе с вводящим в заблуждение контентом.

• В 2023 году мы подали в суд на злоумышленника, который размещал фейковые отзывы на Картах Google и пытался обманным путем манипулировать услугами малого бизнеса.
• Примеры нашего постоянного сотрудничества с отраслью включают обмен экспертными мнениями на мероприятии FTC. предварительное извещение период борьбы с вводящим в заблуждение контентом в Интернете и участия в нормативное предложение дискуссии в качестве члена Ассоциации индустрии компьютеров и коммуникаций.

Надежная информация необходима, чтобы помочь людям исследовать мир, и мы знаем, что вводящий в заблуждение контент подрывает это доверие. Мы стремимся бороться с фальшивыми отзывами, продолжая сотрудничать с регулирующими органами и всей отраслью по этому важному вопросу.