Вопрос по robots.txt
Страницы: 1
Вопрос по robots.txt
Что нужно добавить в robots.txt? что бы убрать из индекса страницы типа 1, 2, 3, 4, 5... Например _http://www.bestcwalk.com/page/2/ ????
И еще как убрать из индекса rss ленты типа _http://www.bestcwalk.com/biography/rss.xml ? smile:)

Прогон по твиттеру, постинг в 1500 аккунтов
Постинг в твиттер аккаунты, для ускорения индексации ваших сайтов, сателлитов, дорвеев.

Disallow: /page/1
Disallow: /page/2
Disallow: /page/3
...
или просто Disallow: /page
EuroHoster.org - территория быстрых серверов

Недорогие VPS на быстрых SSD
Влад Скляр,
Раз уж полезли в роботс, советую убрать также и теги (те, что в "облаке тегов" обычно)
Цитата
WebGraf пишет:
Disallow: /page/1
Disallow: /page/2
Disallow: /page/3
...
или просто Disallow: /page


Да но такие страницы есть еще и в категориях!!! А это только уберет с главной страницы....
Влад Скляр,
у меня так сделано, в категориях убивает тоже:
Код
Disallow: /*page/
Цитата
igoryanzx1 пишет:
Влад Скляр,
у меня так сделано, в категориях убивает тоже:
Код
Disallow: /*page/


Спс, попробую что получится smile:cool:
Disallow: /page/
Блин люди, так че ставить
Код
Disallow: /page/

или
Код
Disallow: /*page/

???
и так и так поставь))))
но мне каежтся что так надо Disallow: /page/
Изменено: bliking - 14 Мая 2011 18:32
Влад Скляр,
мой вариант ставь именно со звездочкой, она сообщает, что не надо индексировать не только первый page от главной!
Точно, поставил неделю назад так Disallow: /*page/ яша сразу схавал. А то раздражало что в поиске были страницы page
А кто может сказать, почему надо убирать из роботс тэги? У меня, конечно, на всех блогах убрано, но как-то хотел поставить, задался вопросом, зачем закрывать их от индексирования, ответ не нашел, поэтому ничего менять и не стал
Personal Family, чтобы не было дублированного контента.
Цитата
igoryanzx1 пишет:
Влад Скляр,
мой вариант ставь именно со звездочкой, она сообщает, что не надо индексировать не только первый page от главной!


Твой м поставил, спс smile:D smile:D smile:D
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
21:54 22 августа Яндекс представит новую модель поиска 
20:51 DreamCash.tl - заработок на онлайн-видео. До 95% отчислений, отличный конверт! 
19:19 24 июля текстовый апдейт Яндекса: индекс по 21 июля 
18:31 WelcomePartners – ведущая гемблинг партнерка рунета! 
18:28 Profitco - гемблинговая ПП! Проверенные бренды, парк-домены, выплаты каждую неделю, геолокация по ip 
18:08 AffiliateCube 3.0 - усовершенствованная платформа 
17:58 TeaserNet - тизерная сеть нового поколения! Высокие доходы, стабильные выплаты 
19:51 Сайт "под ключ" с полной внутренней оптимизацией - бесплатно 
18:46 Дизайн: сайтов, баннеров, шапок, логотипов,оформление групп вконтакте 
18:03 Комплексная раскрутка сайтов. Качественные услуги, прогоны и прочее. (3000+ отзывов) 
16:25 Рерайт, копирайтинг и просто красивые тексты 
15:27 Семантическое ядро с ручной группировкой и НК ключами 
12:38 Продаю постовые на сайте развлекательной тематики 
12:19 Профильный прогон 200 рублей, ТИЦ от 10, проверен Checktrust 
20:34 Всё о крипто-валюте 
19:44 Ищу владельцев идентичных сайтов 
19:43 Новости смотрели ? Предприниматели с 14 лет 
19:34 Ищу исполнителя!!! Простое лого в adobe illustrator 
15:25 Тематика сайта 
15:15 Подскажите посещаемые доски объявлений 
12:32 Игра с текстом