1 июля 2024 года Reddit обновил свой файл robots.txt, чтобы запретить большинству поисковых систем и ИИ-краулеров доступ к своему контенту, включая блокировку Microsoft Bing. Reddit не блокировал Google Search, о котором мы писали здесь несколько недель назад.
Представитель Microsoft сказал мне, вчера вечером«Мы уважаем стандарт robots.txt. Bing прекратил сканирование Reddit после того, как 1 июля они внедрили обновленный файл robots.txt, который запрещает любое сканирование их сайта».
Реддит сказал The Verge: «Мы вели переговоры с несколькими поисковыми системами. Нам не удалось достичь соглашения со всеми из них, поскольку некоторые из них не могут или не хотят давать исполнимые обещания относительно использования ими контента Reddit, включая использование для ИИ».
Марк Уильямс-Кук показал мне, что Reddit новый контент не появлялся в результатах поиска Bing, он написал об этом на Икс и затем несколько других СМИ, охваченные это было до того, как Microsoft прислала мне это заявление.
Reddit также заявил: «Это вообще не связано с нашим недавним партнерством с Google». Да, Google платит Reddit 60 миллионов долларов в год за возможность доступа к контенту на его сайте.
Не забывайте, что у Google есть алгоритм скрытых драгоценностей, который помог Reddit получить много трафика от Google. Reddit — это видя много плохой пиар вокруг Reddit, доминирующего в поиске Google. Я имею в виду, Reddit доминирует в результатах поиска Google. Черт, Google даже тестировал специальную обработку для Reddit не так давно.
В любом случае, Bing и многим другим поисковым системам и ИИ-ботам больше не разрешено сканировать сайт Reddit. Google может и делает это, но другие системы этого не делают.
Смелый шаг, Reddit, но с учётом лицензионного соглашения Google, я думаю, это не слишком смелый шаг.
Wild: Reddit теперь блокирует все основные поисковые системы, *кроме* Google, от сканирования контента
Это может только усилить монопольную власть Google…
… и вы можете быть уверены, что регулирующие органы будут заинтересованы https://t.co/9uGDivBdYc
— Сайрус SEO (@CyrusShepard) 25 июля 2024 г.
График:
— Google повысил популярность Reddit в поиске более чем на 400%
— Google объявляет о сделке на 60 млн с Reddit сразу после
— Reddit объявляет, что планирует выйти на биржу через 48–72 часа
— Reddit вскоре после этого заблокировал весь парсинг для конкурентных поисковых систем?Анти?Конкурентное?поведение https://t.co/Hzrw0zkjDo
— Ори Зильберштейн (@OriZilbershtein) 24 июля 2024 г.
Это часть обескураживающего ускорения монополий, расширяющихся для дальнейшего блокирования конкуренции и отъема у пользователей. Поисковые системы используют для предоставления ссылок на релевантный контент. Теперь они спамят пользователям рекламой, смешанной с выцарапанным и отмытым ИИ контентом без указания источника. https://t.co/xMvzir3DPA
— Тим Суини (@TimSweeneyEpic) 24 июля 2024 г.
Обсуждение на форуме Икс.