Вопрос по robots.txt
Страницы: 1
Вопрос по robots.txt
Что нужно добавить в robots.txt? что бы убрать из индекса страницы типа 1, 2, 3, 4, 5... Например _http://www.bestcwalk.com/page/2/ ????
И еще как убрать из индекса rss ленты типа _http://www.bestcwalk.com/biography/rss.xml ? smile:)

Бесплатная контекстная реклама

Disallow: /page/1
Disallow: /page/2
Disallow: /page/3
...
или просто Disallow: /page
EuroHoster.org - территория быстрых серверов

Недорогие VPS на быстрых SSD
Влад Скляр,
Раз уж полезли в роботс, советую убрать также и теги (те, что в "облаке тегов" обычно)
Цитата
WebGraf пишет:
Disallow: /page/1
Disallow: /page/2
Disallow: /page/3
...
или просто Disallow: /page


Да но такие страницы есть еще и в категориях!!! А это только уберет с главной страницы....
Влад Скляр,
у меня так сделано, в категориях убивает тоже:
Код
Disallow: /*page/
Цитата
igoryanzx1 пишет:
Влад Скляр,
у меня так сделано, в категориях убивает тоже:
Код
Disallow: /*page/


Спс, попробую что получится smile:cool:
Disallow: /page/
Блин люди, так че ставить
Код
Disallow: /page/

или
Код
Disallow: /*page/

???
и так и так поставь))))
но мне каежтся что так надо Disallow: /page/
Изменено: bliking - 14 Мая 2011 18:32
Влад Скляр,
мой вариант ставь именно со звездочкой, она сообщает, что не надо индексировать не только первый page от главной!
Точно, поставил неделю назад так Disallow: /*page/ яша сразу схавал. А то раздражало что в поиске были страницы page
А кто может сказать, почему надо убирать из роботс тэги? У меня, конечно, на всех блогах убрано, но как-то хотел поставить, задался вопросом, зачем закрывать их от индексирования, ответ не нашел, поэтому ничего менять и не стал
Personal Family, чтобы не было дублированного контента.
Цитата
igoryanzx1 пишет:
Влад Скляр,
мой вариант ставь именно со звездочкой, она сообщает, что не надо индексировать не только первый page от главной!


Твой м поставил, спс smile:D smile:D smile:D
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
20:41 Рекламная сеть яндекса личный опыт 
20:15 где ошибка Parse error: syntax error, unexpected 'VALUES' (T_STRING) in E:\OpenServer\domains\test.ru\mysql NSERT.php on line 14 
20:13 WebSite или WebPage? 
20:06 Заходы ботов, вредно ли это для сайта? 
20:04 Сайт упал в позициях яндекса 
19:59 Adsense личный опыт 
18:54 Апдейт 26 февраля 2017 года 
20:49 Я новичек помогие оцените мой сайт 
20:37 Продам сайт с тИЦ 10 (софт, программы) 
19:57 Высокое качество по доступным ценам 
19:48 Услуга по поднятию Тиц сайтов. Оплата единоразовая! 
19:03 Прогон по твиттеру, постинг в 1500 аккунтов, ускорение индексации и переиндексация сайтов, сателлитов, дорвеев и ссылок с прогонов 
17:53 Сделаю рерайт с исходника 
17:48 Медицинский копирайт (медицинские тексты, копирайтинг) любой сложности от врача 
20:45 2domains совсем обнаглели. Куда свалить? 
20:09 Реф. ссылку надо обязательно обойти и зарегистрироваться по прямой! 
17:14 продолжение романа Пелевина поколение "П" 
13:48 отзывы constructiontop100plus.ru / Топ 100 сайтов о строительстве - прям крутотенюшка-крутота!) 
13:17 Грамотное Сео описание категорий для сайта Фотографа 
13:08 Госзакупки - продления домена за 100 т.р. 
12:04 Надо с сервака парсить сайт один с разных IP