Закрытие /page/ в роботс
Страницы: 1
Закрытие /page/ в роботс, правильно ли я делаю??
Итак, у меня есть сайт. На нем множество категорий. Когда я публикую новость - она отображается на главной и в категории, в которую я добавил. У меня на главной уже 5 страниц и все эти новости есть и в категориях отдельно. Так вот вопрос: стоит ли прописать правило в роботс Disallow: /page/ , чтобы пс не индексировали страницы на главной сайта, а сосредоточились на категориях. Конечно в поиск войдет главная, но начиная со 2-ой страницы отображаться не будет. В поиск не попадут site.ru/page/ но попадет site.ru/cat/page/ Или оставить без изменений??
Сообщение одобрено
Можно конечно и прописать, но лучше оставить так.
Ещё прежде чем работать с robots.txt почитайте вот этот сайт Все о файле «robots.txt» по-русски — как составить robots.txt
Услуги по работе с DLE и Ucoz

подробнее тут:
http://www.cy-pr.com/forum/f63/t46996/ - Услуги по работе с DLE
http://www.cy-pr.com/forum/f77/t46676/ - Услуги по работе с Ucoz

Всё что имеет начало, имеет и конец...
Я на всех своих сайтах прописываю в robots.txt строку Disallow: /page/ и вам советую. Эти страницы будут мусором в выдаче и не будут приносить посетителей на сайт.
А чем отличается  Disallow: /page/ и  Disallow: /*page/???
Цитата
0Bk03 пишет:
А чем отличается Disallow: /page/ и Disallow: /*page/???
Первый вариант - Все равно, что /page/* - после все, что угодно

второй вариант - что угодно, а в конце page и опять что угодно
Ясно,спасибо.У меня просто когда было прописано  Disallow: /page/ закрывались не все page от индексации,а вот когда прописал Disallow: /*page/ Всё стало хорошо:)
Цитата
0Bk03 пишет:
Ясно,спасибо.
smile:)
Такой вопросик интересует, подскажите. Читая предыдущие посты немного не понял как закрыть page внутри категорий.
Сейчас у меня в роботс стоит:
Disallow: /page/

Как сделать, чтобы закрылись страницы внутри категорий? Так?
Disallow: /category/page/*

После этого у меня сами категории не закроются для индексации?
Пропиши таким образом - Disallow: */page/*
Изменено: Илья Сальков - 17 Апреля 2014 22:09
Цитата
Илья Сальков пишет:
Пропиши таким образом - Disallow: */page/*
Спасибо, забил. При след. апе посмотрим на результат.
Таким образом, ты закроешь страницы пагинации вида /page/1, /page/2 , /page/3 и тд
И закроешь вида /category/page, /category/page/1 и тд

Сами страницы категорий не закроются.
Правильно так Disallow: /*page ИМХОУ меня страницы закрываются только так,любым другим способом закрываются не все страницы
Цитата
kazyavka пишет:
Правильно так Disallow: /*page ИМХОУ меня страницы закрываются только так,любым другим способом закрываются не все страницы
Так же спасибо за подсказку, я опробую предыдущий метод и если не получится то проверим вам, и если не забуду, то отпишусь здесь.
Кстати много где слышал, что page нельзя закрывать от индексации, чтобы роботу было проще проходить по страницам сайта и индексировать их. Могу заверить, ничего подобного! С уник контентом, сайт влетаем в индекс на ура и без page, тем более что на них пользователь ничего полезного не найдет переходя на них из поиска. Так что смело закрывайте. Обращение было больше к новичкам)
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
10:12 01.02. Апдейт 31.01 // Chrome готовит "чёрную метку" для ИИ? 
09:46 OpenAI и шейхи: Цензура на продажу и "гибкие" идеалы амеров 
06:34 Гугл пухнет от кеша, а нам - крошки. Разбор $114 млрд: Адсенс в минусе, Ютуб на подписках 
01:09 Yahoo Scout: Нейро-привет из склепа. Реальный шанс на траф или мимо? 
17:33 AntiBot Cloud - бесплатный скрипт и сервис защиты сайтов 
15:14 Апдейт Яндекса 7 февраля. Пока серп трясет, некоторые по ботам плачут 
15:10 Google Discover Core Update: Дискавер отделяют от поиска? 
08:58 Мониторинг обменников Сrypto-scout.io 
04:09 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
02:31 Профессиональный и грамотный дизайн от DesignCash 
18:27 Nexulume.com Обменник без AML и KYC 
15:45 Mixmasters - Exchange without AML and KYC 
10:22 Swapwatch.org — Мониторинг криптовалютных обменников 
10:19 SwapPix.io - быстрый и безопасный обменник криптовалют. 
10:52 Кулеры и БП станут золотыми? Медь по 13 штук, олово в космосе 
08:50 Гильотина для классиков: Клод доедает физические книги 
05:10 Точные прогнозы на футбол 
18:34 Ставки на супер тренды в спорте 
11:10 Moltbook: Соцсеть для ботов, где людям закрыли рот. Началось? 
22:31 [AI] Бот за $600к советовал есть сыр с крысами. Нью-Йорк его (наконец-то) снес 
13:38 Осталось 3-5 месяцев до блокировки YouTube в России, — заявил Клименко