Google о том, как не нужно уменьшать сканирование ботом
В указанном вопросе нужно следовать правилам и не заниматься самодеятельностью.
Об этом на днях несколько постов выдал Гари Иллиес (Gary Illyes). Суммируем их содержание:
"В последние несколько месяцев мы заметили всплеск среди владельцев сайтов и некоторых CDN, которые намеренно используют код ошибки 404 или похожие 4xx (это не касается ошибки 429) для того, чтобы уменьшить частоту сканирования нашим ботом.
Должен отметить, что коды ответа сервера 403 и 404 не позволят вам быстро снизить частоту сканирования. Более того, можно добиться обратного эффекта. У нас имеются рекомендации, как правильно снижать частоту сканирования Гуглботом. И, увы, ошибок 403 и 404 в них нет".
А вам приходилось ограничивать сканирование со стороны Google? Как вы этого добивались?
18 Февраля 2023
Возврат к списку