Вопрос по robots.txt
Страницы: 1
Вопрос по robots.txt
Что нужно добавить в robots.txt? что бы убрать из индекса страницы типа 1, 2, 3, 4, 5... Например _http://www.bestcwalk.com/page/2/ ????
И еще как убрать из индекса rss ленты типа _http://www.bestcwalk.com/biography/rss.xml ? smile:)
Disallow: /page/1
Disallow: /page/2
Disallow: /page/3
...
или просто Disallow: /page
EuroHoster.org - территория быстрых серверов / Скидка до 60% на VPS:

2 vCPU / 4 GB RAM / 20 GB SSD / 100 Mbps / панель Plesk / мониторинг доступности - 15.00 EUR

SSL-сертификаты от 4.89 EUR
Влад Скляр,
Раз уж полезли в роботс, советую убрать также и теги (те, что в "облаке тегов" обычно)
Цитата
WebGraf пишет:
Disallow: /page/1
Disallow: /page/2
Disallow: /page/3
...
или просто Disallow: /page


Да но такие страницы есть еще и в категориях!!! А это только уберет с главной страницы....
Влад Скляр,
у меня так сделано, в категориях убивает тоже:
Код
Disallow: /*page/
Цитата
igoryanzx1 пишет:
Влад Скляр,
у меня так сделано, в категориях убивает тоже:
Код
Disallow: /*page/


Спс, попробую что получится smile:cool:
Disallow: /page/
Блин люди, так че ставить
Код
Disallow: /page/

или
Код
Disallow: /*page/

???
и так и так поставь))))
но мне каежтся что так надо Disallow: /page/
Изменено: bliking - 14 Мая 2011 18:32
Влад Скляр,
мой вариант ставь именно со звездочкой, она сообщает, что не надо индексировать не только первый page от главной!
Точно, поставил неделю назад так Disallow: /*page/ яша сразу схавал. А то раздражало что в поиске были страницы page
А кто может сказать, почему надо убирать из роботс тэги? У меня, конечно, на всех блогах убрано, но как-то хотел поставить, задался вопросом, зачем закрывать их от индексирования, ответ не нашел, поэтому ничего менять и не стал
Personal Family, чтобы не было дублированного контента.
Цитата
igoryanzx1 пишет:
Влад Скляр,
мой вариант ставь именно со звездочкой, она сообщает, что не надо индексировать не только первый page от главной!


Твой м поставил, спс smile:D smile:D smile:D
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
11:51 Bropush - твой бро в монетизации сайта push-уведомлениями 
03:12 Сайты-копипасты 
01:18 Найти элемент в коде 
21:47 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
09:59 Ошибка после размещения кода HTML! 
15:34 Adtrafico - Правильная партнёрская сеть под бурж трафик 
14:43 Партнерская программа OWNR WALLET 
09:42 ProxyWins.com - 15% по промо-коду "venividivici" 
04:47 BetaTransfer касса — это надежный сервис приема платежей в сфере High Risk 
16:38 Belurk — высокоскоростные анонимные прокси от 0,24 рублей 
15:28 Ural-obmen.ru — выгодный сервис обмена 
15:09 Obama.ru - безопасный обмен криптовалют и электронных денежных средств 
13:14 A-Parser 1.1 - продвинутый парсер поисковых систем, Suggest, PR, DMOZ, Whois, etc 
11:51 Европейский эквайринг 
11:59 Каспкрски ОС 
11:21 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди 
01:05 Точные прогнозы на футбол 
14:41 Бесплатный мини-аудит юзабилити и конверсии + технический SEO-аудит в подарок 
15:24 Добро пожаловать в цифровой мир... 
22:58 У меня дикая просадка по РСЯ за последние 3 суток 
21:51 Linux - это максимальная свобода