Как заблокировать бота Мэйл.ру
Страницы: 1 2 След.
Как заблокировать бота Мэйл.ру
Всем привет! Последний месяц идет стремительная нагрузка на хостинг поисковыми роботами.Хостер сегодня прислал такой отчет 
Цитата

649 19.08% Mozilla/5.0 (compatible; Linux x86_64; Mail.RU_Bot/Fast/2.0; +http://go.mail.ru/help/robots) 324 9.52% Mozilla/5.0 (compatible; YandexDirect/3.0; +http://yandex.com/bots) 92 2.70% Mozilla/5.0 (compatible; YandexBot/3.0; +http://yandex.com/bots)

Это нагрузка на сайт с 12 ночи до часа дня. В роботс прописала команду 
Цитата
User-agent: *
Crawl-delay: 120

Вчера нагрузка была такой
Цитата

2123 15.73% Mozilla/5.0 (compatible; Linux x86_64; Mail.RU_Bot/Fast/2.0; +http://go.mail.ru/help/robots) 1072 7.94% Mozilla/5.0 (compatible; YandexDirect/3.0; +http://yandex.com/bots) 912 6.76% Mozilla/5.0 (Linux; Android 6.0.1; Nexus 5X Build/MMB29P) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/41.0.2272.96 Mobile Safari/537.36 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)


В Яндексе и гугле уменьшила скорость обхода.Подскажите, как забанить бота мэйл ру, так как для моего сайта он несет только нагрузку, а не посетителей.
Цитата
Ольга пишет:
Crawl-delay: 120
А немного ли это - Crawl-delay 3 вполне бы хватило
Цитата
WGN пишет:
Цитата
Ольга пишет:
Crawl-delay: 120
А немного ли это - Crawl-delay 3 вполне бы хватило
Хостер так порекомендовал.
Ольга ,
Кто Хостер? 120 запросов в секунду это много. То что вы настраеваете в панелях и эда деректива не означает что пс будут их предерживаться. Бань те по регулярном выражению к примеру Mail.RU_Bot
Рекомендую хостинг и VPN в Европе от 56р.
Рекомендую хостинг в России от 220р.
Мой Сайт-Блог Климов Дмитрий .
Цитата
Diman_TS пишет:
Ольга ,
Кто Хостер? 120 запросов в секунду это много. То что вы настраеваете в панелях и эда деректива не означает что пс будут их предерживаться. Бань те по регулярном выражению к примеру Mail.RU_Bot
разве это означает количество запросов в секунду, а не таймаут?
Цитата

User-agent: Yandex Crawl-delay: 2.0 # задает тайм-аут в 2 секунды User-agent: * Disallow: /search Crawl-delay: 1.5 # задает тайм-аут в 1.5 секунды
Ольга ,
Возможно я на память вам сказал. Но настройки действуют на усмотрение робота, а как он рассматривает знает только он)). Надо запретить на уровне сервера, так чтобы когда только он попытается зайти, а не тогда когда он уже зашёл и начинает работать.
Цитата
Diman_TS пишет:
Ольга ,
Возможно я на память вам сказал. Но настройки действуют на усмотрение робота, а как он рассматривает знает только он)). Надо запретить на уровне сервера, так чтобы когда только он попытается зайти, а не тогда когда он уже зашёл и начинает работать.
Порекомендовал хостер прописать в htacess одну команду, посмотрю на результат, поможет или нет.
Вы бы хостера меняли или тариф, чем запрещать роботам ПС ходить по сайту...
Мы не можем похвастаться мудростью глаз
И умелыми жестами рук,
Нам не нужно все это, чтобы друг друга понять.
Сигареты в руках, чай на столе - так замыкается круг,
И вдруг нам становится страшно что-то менять.
Цитата
Eye пишет:
Вы бы хостера меняли или тариф, чем запрещать роботам ПС ходить по сайту...
У меня хостер нормальный, бегет. Нагрузка на стандартных тарифах у них одинаковая.
Цитата
Ольга пишет:
хостер нормальный, бегет.
smile:D
Цитата
Ольга пишет:
Порекомендовал хостер прописать в htacess одну команду, посмотрю на результат, поможет или нет.

Это одно из решений, главное правильно прописать, а то подумаете что не помогает.
Цитата
Diman_TS пишет:
Кто Хостер? 120 запросов в секунду это много
Это значит что робот заходит 1 раз в 120 секунд !!!
Цитата
Ольга пишет:
У меня хостер нормальный, бегет.
smile:Dsmile:wall:smile:cool:
Установка, настройка, наполнение сайта на SMC WordPress, PrestaShop.
WordPress***WordPress
Цитата
WGN пишет:
Цитата
Diman_TS пишет:
Кто Хостер? 120 запросов в секунду это много
Это значит что робот заходит 1 раз в 120 секунд !!!
Нет, я имел ввиду за одну секунду делает 120 запросов.



Ольга , Вот список ботов майл.ру _https://help.mail.ru/webmaster/indexing/robots/r­obot_log
Цитата
Diman_TS пишет:
Цитата
Ольга пишет:
Порекомендовал хостер прописать в htacess одну команду, посмотрю на результат, поможет или нет.

Это одно из решений, главное правильно прописать, а то подумаете что не помогает.
Судя по всему, помогло.
Страницы: 1 2 След.
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
19:40 adsense в 2026: кто реально выводит копейку через киргизию? 
14:09 2Index - быстрая индексация страниц сайта и обратных ссылок 
12:26 Очередной взлом через плагин. Хакеры получают админку без пароля 
12:19 Биржи ссылок в 2026 - реально ли новичку с одним сайтом поднять копейку? 
12:12 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 
23:24 Яндекс Нейро и выдача в 2026 - остались ли лазейки для маленьких сайтов? 
23:05 Раскрутка форума 
17:18 SOCKS5 приватные прокси на 30 дней для PayPal 
17:16 Google Voice аккаунты для бесплатных SMS и звонков 
17:16 PayPal аккаунты для любых целей 
15:11 HH.ru Работадателя вериф 
14:49 4G/LTE Mobile Proxy 30+ geo  
14:43 [UPDATE] CryptoMonitor — обмен BTC, USDT, XMR | актуальная тема сервиса 
13:32 Мониторинг обменников Сrypto-scout.io 
19:39 Огородники 
19:36 8 марта: желаю аптайма 99.9% и e-e-a-t без локов 
16:47 Какой фильм вы любите посмотреть перед сном? 
15:46 молодильные яблоки и живая вода 
10:11 О природе путешествий. 
01:47 Точные прогнозы на футбол 
15:04 Сайты Рунета