robots.txt Yandex
Страницы: 1
robots.txt Yandex, нид хелп!
Добрый день, Гуру оптимизации!
На сегодня у меня два вопроса: 1., вчера заглянул в "страницы" загруженные яндексом, их у меня почти 3000 зотя на самом деле всего 300 записей. Задался вопросом, откуда? посмотрел загружено feed=rss2& - около 1000 страниц, получается дубляж контента. Нужно ли для Яндекса зарвывать этот РСС канал?
2. В роботс.хтх если закрываю disallow: /archives/ то у меня перестают индексироваться категории или рубрики моего сайта! аля структура оказалась /archives/category/ индексацию проходят и рубрики и архивы...опять дубль! Пощему нащальнике??? что мне теперь делать? Как сделать так чтобы индексировались только категории?
Цитата
Gena Gabdullin пишет:
Добрый день, Гуру оптимизации!
На сегодня у меня два вопроса: 1., вчера заглянул в "страницы" загруженные яндексом, их у меня почти 3000 зотя на самом деле всего 300 записей. Задался вопросом, откуда? посмотрел загружено feed=rss2& - около 1000 страниц, получается дубляж контента. Нужно ли для Яндекса зарвывать этот РСС канал?
2. В роботс.хтх если закрываю disallow: /archives/ то у меня перестают индексироваться категории или рубрики моего сайта! аля структура оказалась /archives/category/ индексацию проходят и рубрики и архивы...опять дубль! Пощему нащальнике??? что мне теперь делать? Как сделать так чтобы индексировались только категории?

конечно нужно,помню как через дубль у моего СДЛ повылетали все старницы, я уже думал что бан, но после устранения дубля и письма платонам стало все нормально)
Цитата
Gena Gabdullin пишет:
Добрый день, Гуру оптимизации!
На сегодня у меня два вопроса: 1., вчера заглянул в "страницы" загруженные яндексом, их у меня почти 3000 зотя на самом деле всего 300 записей. Задался вопросом, откуда? посмотрел загружено feed=rss2& - около 1000 страниц, получается дубляж контента. Нужно ли для Яндекса зарвывать этот РСС канал?
2. В роботс.хтх если закрываю disallow: /archives/ то у меня перестают индексироваться категории или рубрики моего сайта! аля структура оказалась /archives/category/ индексацию проходят и рубрики и архивы...опять дубль! Пощему нащальнике??? что мне теперь делать? Как сделать так чтобы индексировались только категории?

а зачем Вам чтобы индексировались категории и рубрики? smile:) я вообще весь дубль закрыл, т.е. в индексе только "чистые" страницы.
Цитата
deezy пишет:
а зачем Вам чтобы индексировались категории и рубрики? я вообще весь дубль закрыл, т.е. в индексе только "чистые" страницы.


Поделитесь плиз своим роботс.тхт?

Кстати у меня страницы повылетали, думаю может из-за дублей...
в общем нашел я благодаря рдс бару, через хром на сайте у Миши Шакина роботс.тхт, поставлю себе, должен хорошо работать, кому нужен вот он
User-agent: *
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /webstat/
Disallow: /feed/
Disallow: /trackback
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Disallow: /category/*/*
Disallow: /wp-content/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /comments

User-agent: Yandex
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /webstat/
Disallow: /feed/
Disallow: /trackback
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Disallow: /category/*/*
Disallow: /wp-content/
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /comments
Цитата
Gena Gabdullin пишет:
в общем нашел я благодаря рдс бару, через хром на сайте у Миши Шакина роботс.тхт, поставлю себе, должен хорошо работать, кому нужен вот он


Параметр User-Agent: * означает что написанные правила доступа действительны для всех поисковых роботов. Поэтому все что идет начиная со строчки User-agent: Yandex и далее - совершенно не нужно. Отдельное правило для Яндекса имело бы смысл, только если бы там были записаны правила индексации папок, отличные от общих правил для остальных поисковиков.
У меня на блогах давно такой robots.txt стоит) smile:cool:
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
10:02 Бесплатное получение бэклинков 
10:01 Бесплатное расширение для Chrome — проверка ссылок прямо на странице 
23:53 Выбор CMS для первого блога в 2026 - реально ли новичку войти без кода? 
22:30 MAX попер в бурж: 40 стран, ведение каналов и горы дешевого трафика 
22:21 Слипание слов в блоке 
22:13 Гугл запустил Первый АПдейт года и серп уже трясёт - Google March 2026 Core Update 
22:05 С чего сейчас проще начать? 
09:40 Вериф аккаунты АВИТО + платежи 
09:22 Софт для рассылки в телеграм 
09:16 Telegram-бот конструктор: автоответы, воронки, поддержка и т.д 
00:05 TETChange-Обменник криптовалют 
22:39 Создам под вашу нишу сетку сайтов-сателлитов для привлечения целевого трафика 
22:17 Продам домен translated.ru 
21:00 Portfel.cc - современный помощник в Ваших финансовых операциях. 
23:08 Голландцы влепили Grok по яйцам - теперь нельзя раздевать реальных людей, штраф 100к евро в день 
18:49 Чак Норрис ушел - 19 марта 2026, 86 лет, семья подтвердила 
17:05 Огородники 
13:41 8 марта: желаю аптайма 99.9% и e-e-a-t без локов 
13:02 С юмором по жизни! 
05:10 Точные прогнозы на футбол 
16:47 Какой фильм вы любите посмотреть перед сном?