Борьба с Feedfetcher-Google
в robots.txt изначально было:
User-agent: Feedfetcher-Google
Disallow: /
в robots.txt изначально было:
User-agent: Feedfetcher-Google
Disallow: /
Лучший Хостинг - под любые проекты
#1
27 Января 2015 00:45
Борьба с Feedfetcher-Google
в robots.txt изначально было: User-agent: Feedfetcher-Google Disallow: / Лучший Хостинг - под любые проекты |
#2
27 Января 2015 00:48
*скрин самописной статы, перед началом индексации сайта был создан robots.txtисходя из логики, перед индексацией бот должен смотреть на содержание robots.txt, так что факт игнорирования правила в robots.txt на лицо!
|
||||