Вопрос по robots.txt
Страницы: 1
Вопрос по robots.txt
Что нужно добавить в robots.txt? что бы убрать из индекса страницы типа 1, 2, 3, 4, 5... Например _http://www.bestcwalk.com/page/2/ ????
И еще как убрать из индекса rss ленты типа _http://www.bestcwalk.com/biography/rss.xml ? smile:)

Бесплатная контекстная реклама

Disallow: /page/1
Disallow: /page/2
Disallow: /page/3
...
или просто Disallow: /page
EuroHoster.org - территория быстрых серверов

Недорогие VPS на быстрых SSD
Влад Скляр,
Раз уж полезли в роботс, советую убрать также и теги (те, что в "облаке тегов" обычно)
Цитата
WebGraf пишет:
Disallow: /page/1
Disallow: /page/2
Disallow: /page/3
...
или просто Disallow: /page


Да но такие страницы есть еще и в категориях!!! А это только уберет с главной страницы....
Влад Скляр,
у меня так сделано, в категориях убивает тоже:
Код
Disallow: /*page/
Цитата
igoryanzx1 пишет:
Влад Скляр,
у меня так сделано, в категориях убивает тоже:
Код
Disallow: /*page/


Спс, попробую что получится smile:cool:
Disallow: /page/
Блин люди, так че ставить
Код
Disallow: /page/

или
Код
Disallow: /*page/

???
и так и так поставь))))
но мне каежтся что так надо Disallow: /page/
Изменено: bliking - 14 Мая 2011 18:32
Влад Скляр,
мой вариант ставь именно со звездочкой, она сообщает, что не надо индексировать не только первый page от главной!
Точно, поставил неделю назад так Disallow: /*page/ яша сразу схавал. А то раздражало что в поиске были страницы page
А кто может сказать, почему надо убирать из роботс тэги? У меня, конечно, на всех блогах убрано, но как-то хотел поставить, задался вопросом, зачем закрывать их от индексирования, ответ не нашел, поэтому ничего менять и не стал
Personal Family, чтобы не было дублированного контента.
Цитата
igoryanzx1 пишет:
Влад Скляр,
мой вариант ставь именно со звездочкой, она сообщает, что не надо индексировать не только первый page от главной!


Твой м поставил, спс smile:D smile:D smile:D
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
00:16 Движок Web-Sat CMS. Как добавить шапку на главную страницу ? 
23:34 Нужно ли делать редирект с HTTP на HTTPS? 
23:27 Апдейт Яндекса 07.12.2016 
22:52 Интересует мнение профессионалов по сайту 
22:52 Биржи ссылок живы? ( ггл, мира, пр.сапа 2016-2017 ) 
22:25 Неправильный Роботс.тхт 
22:21 Яндекс тИЦ 03.12.2016 
00:36 Продам домены РУС 
23:54 нужно сделать сайта-визитку 
23:33 Требуется накрутить подписчиков на Google+ 
22:59 Рерайт 30 р за 1000 символов без пробелов 
21:40 Новинка! Комплексная услуга Black Mamba! 
21:31 Продвижение в соц. сетях: ВК, YouTube, Одноклассники, Twitter, Facebook, Instagram 
21:17 Комплексная раскрутка сайтов. Качественные услуги, прогоны и прочее. (2000+ отзывов) 
23:32 Дом 2 закрывают! Отличная новость! 
23:28 Внимание КИДАЛЫ (ccc.mn) 
22:52 В бизнес приглашается специалисты, контракт, удаленно 
22:41 ЭВРИКА! Стань быстрее и сильнее! Одержи победу над конкурентом! 
21:32 Бесплатно 1 000 просмотров Youtube c удержанием аудитории 70-100% 
20:26 Профессиональная настройка кампании в Яндекс Директ | Web-context.biz 
19:45 Опрос: родители проводят в два раза больше времени онлайн, чем их дети