robots.txt Yandex
Страницы: 1
robots.txt Yandex, нид хелп!
Добрый день, Гуру оптимизации!
На сегодня у меня два вопроса: 1., вчера заглянул в "страницы" загруженные яндексом, их у меня почти 3000 зотя на самом деле всего 300 записей. Задался вопросом, откуда? посмотрел загружено feed=rss2& - около 1000 страниц, получается дубляж контента. Нужно ли для Яндекса зарвывать этот РСС канал?
2. В роботс.хтх если закрываю disallow: /archives/ то у меня перестают индексироваться категории или рубрики моего сайта! аля структура оказалась /archives/category/ индексацию проходят и рубрики и архивы...опять дубль! Пощему нащальнике??? что мне теперь делать? Как сделать так чтобы индексировались только категории?
Цитата
Gena Gabdullin пишет:
Добрый день, Гуру оптимизации!
На сегодня у меня два вопроса: 1., вчера заглянул в "страницы" загруженные яндексом, их у меня почти 3000 зотя на самом деле всего 300 записей. Задался вопросом, откуда? посмотрел загружено feed=rss2& - около 1000 страниц, получается дубляж контента. Нужно ли для Яндекса зарвывать этот РСС канал?
2. В роботс.хтх если закрываю disallow: /archives/ то у меня перестают индексироваться категории или рубрики моего сайта! аля структура оказалась /archives/category/ индексацию проходят и рубрики и архивы...опять дубль! Пощему нащальнике??? что мне теперь делать? Как сделать так чтобы индексировались только категории?

конечно нужно,помню как через дубль у моего СДЛ повылетали все старницы, я уже думал что бан, но после устранения дубля и письма платонам стало все нормально)
Цитата
Gena Gabdullin пишет:
Добрый день, Гуру оптимизации!
На сегодня у меня два вопроса: 1., вчера заглянул в "страницы" загруженные яндексом, их у меня почти 3000 зотя на самом деле всего 300 записей. Задался вопросом, откуда? посмотрел загружено feed=rss2& - около 1000 страниц, получается дубляж контента. Нужно ли для Яндекса зарвывать этот РСС канал?
2. В роботс.хтх если закрываю disallow: /archives/ то у меня перестают индексироваться категории или рубрики моего сайта! аля структура оказалась /archives/category/ индексацию проходят и рубрики и архивы...опять дубль! Пощему нащальнике??? что мне теперь делать? Как сделать так чтобы индексировались только категории?

а зачем Вам чтобы индексировались категории и рубрики? smile:) я вообще весь дубль закрыл, т.е. в индексе только "чистые" страницы.
Цитата
deezy пишет:
а зачем Вам чтобы индексировались категории и рубрики? я вообще весь дубль закрыл, т.е. в индексе только "чистые" страницы.


Поделитесь плиз своим роботс.тхт?

Кстати у меня страницы повылетали, думаю может из-за дублей...
в общем нашел я благодаря рдс бару, через хром на сайте у Миши Шакина роботс.тхт, поставлю себе, должен хорошо работать, кому нужен вот он
User-agent: *
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /webstat/
Disallow: /feed/
Disallow: /trackback
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Disallow: /category/*/*
Disallow: /wp-content/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /comments

User-agent: Yandex
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /webstat/
Disallow: /feed/
Disallow: /trackback
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Disallow: /category/*/*
Disallow: /wp-content/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /comments
Цитата
Gena Gabdullin пишет:
в общем нашел я благодаря рдс бару, через хром на сайте у Миши Шакина роботс.тхт, поставлю себе, должен хорошо работать, кому нужен вот он


Параметр User-Agent: * означает что написанные правила доступа действительны для всех поисковых роботов. Поэтому все что идет начиная со строчки User-agent: Yandex и далее - совершенно не нужно. Отдельное правило для Яндекса имело бы смысл, только если бы там были записаны правила индексации папок, отличные от общих правил для остальных поисковиков.
У меня на блогах давно такой robots.txt стоит) smile:cool:
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
18:44 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 
13:12 Покупные ссылки 
12:57 Rotapost прикрыли! Чем пользоваться? 
17:00 Стоит ли добавлять сайт в Rambler топ 100? 
15:12 Ночной бар в Паттайе: как случайная встреча с "тайкой" и её кадыком перевернула мой взгляд на продвижение сайта в Google 2026 
15:01 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
07:24 3snet - гемблинг, беттинг, форекс, бинарные опционы, майнинг 
09:15 Все услуги в Телеграм 
20:07 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
16:31 CryptoGraph — Анонимный обмен криптовалют без KYC и AML 
15:37 Продажа лидов: форекс, инвестиции, нативка, гемблинг, чарджбеки 
14:49 Рассылки СМС/SMS, Вайбер/Viber, Ватсап/Whatsapp, Телеграм/Telegram любой тематики по всему миру 
01:31 Продам обменник криптовалюты, а также новый обменник под ключ с обучением. Скидки на скрипты обменника 
01:07 Full-Stack Developer — Сайты и Софт любой сложности | Developer Websites and Soft of any Complexity! 
18:35 С юмором по жизни! 
22:59 Про мясо 
15:07 Добро пожаловать в цифровой мир... 
22:12 BYTIK.shop – сервис по продвижению в популярных социальных сетях​ 
10:10 накрутка трафика в SimilarWeb 
16:50 Компьютерная мышь 
23:03 Точные прогнозы на футбол