robots.txt для блога на WordPress
Страницы: 1
robots.txt для блога на WordPress, Посоветуйте оптимальный пример robots.txt для блога на WordPress
Уважаемые форумчане. Посоветуйте пример нормального файла robots.txt для блога на WordPress. То что сейчас стои у меня - вот. Но, например, вычитал, что  Disallow: /category/*/* - это не правильно, правильно будет Disallow: /category/*  Посоветуйте, кто в теме. 

Код
User-agent: *
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /webstat/
Disallow: /feed/
Disallow: /trackback
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Disallow: /category/*/*
Disallow: /wp-content/plugins
Disallow: /wp-content/themes
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /comments
 
User-agent: Yandex
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /webstat/
Disallow: /feed/
Disallow: /trackback
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Disallow: /category/*/*
Disallow: /wp-content/plugins
Disallow: /wp-content/themes
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /comments
Host: мой хост
 
Sitemap: http://мой сайт/sitemap.xml
Sitemap: http://мой сайт/sitemap.xml.gz
 
А также подскажите, нужно ли на WordPress две карты сайта, одна в .xml, а другая обычной страницей в меню, тоесть перечень ссылок.
Всегда использую такой вид файла:
User-agent: Yandex
Disallow: /cgi-bin
# запрещаем индексацию системных папок
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
# запрещаем индексацию страницы входа и регистрации
Disallow: /wp-login.php
Disallow: /wp-register.php
# запрещаем индексацию трекбеков, rss-ленты
Disallow: /trackback
Disallow: /feed
Disallow: /rss
Disallow: */trackback
Disallow: */feed
Disallow: */rss
Disallow: /xmlrpc.php
# запрещаем индексацию постраничных комментариев
Disallow: */comments
Disallow: */comment-page*
# запрещаем индексацию результатов поиска и другого возможного «мусора»
Disallow: /*?*
Disallow: /*?
# разрешаем индексацию вложений, особо мнительным можно запретить папку wp-content целиком
Allow: /wp-content/uploads


User-agent: Googlebot-Image
Disallow:
Allow: /*
# разрешаем индексировать изображения
User-agent: YandexBlog
Disallow:
Allow: /*
User-Agent: *
Crawl-Delay: 10

User-Agent: *
sitemap: sitemap.xml
sitemap: sitemap.xml.gz

User-agent: *
Disallow: /cgi-bin
# запрещаем индексацию системных папок
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
# запрещаем индексацию страницы входа и регистрации
Disallow: /wp-login.php
Disallow: /wp-register.php
# запрещаем индексацию трекбеков, rss-ленты
Disallow: /trackback
Disallow: /feed
Disallow: /rss
Disallow: */trackback
Disallow: */feed
Disallow: */rss
Disallow: /xmlrpc.php
# запрещаем индексацию архива автора
Disallow: /author*
# запрещаем индексацию постраничных комментариев
Disallow: */comments
Disallow: */comment-page*
# запрещаем индексацию результатов поиска и другого возможного «мусора»
Disallow: /*?*
Disallow: /*?
# разрешаем индексацию вложений, особо мнительным можно запретить папку wp-content целиком
# Allow: /wp-content/uploads
А /category/ разве не нужно закрывать? Не дубли получатся? И зачем закрывать сами комментарии? Обьясните, пожалуйста.
Цитата
Олег Волощук пишет:
А /category/ разве не нужно закрывать? Не дубли получатся? И зачем закрывать сами комментарии? Обьясните, пожалуйста.
А главную нужно закрывать? Разве на ней не дубли?
Цитата
Олег Волощук пишет:
А /category/ разве не нужно закрывать? Не дубли получатся? И зачем закрывать сами комментарии? Обьясните, пожалуйста.
Вы просмотрите страницы комментариев. Вот там самые настоящие дубли....
а не научились ли ПС сами определять дубли?
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
23:53 Выбор CMS для первого блога в 2026 - реально ли новичку войти без кода? 
22:30 MAX попер в бурж: 40 стран, ведение каналов и горы дешевого трафика 
22:21 Слипание слов в блоке 
22:13 Гугл запустил Первый АПдейт года и серп уже трясёт - Google March 2026 Core Update 
22:05 С чего сейчас проще начать? 
21:57 Яндекс Нейро и выдача в 2026 - остались ли лазейки для маленьких сайтов? 
21:25 Биржи ссылок в 2026 - реально ли новичку с одним сайтом поднять копейку? 
00:05 TETChange-Обменник криптовалют 
22:39 Создам под вашу нишу сетку сайтов-сателлитов для привлечения целевого трафика 
22:17 Продам домен translated.ru 
21:00 Portfel.cc - современный помощник в Ваших финансовых операциях. 
19:29 Proxy SOCKS5/HTTP(S) : Резидентские-$1.5/GB | Мобильные-$2/GB | Datacenter-$1/GB | PREMIUM-$4 /GB 
15:05 Mixmasters - Exchange without AML and KYC 
13:11 SpeedyIndex - ускорение индексирования ссылок в Google. 100 ссылок в подарок. 
23:08 Голландцы влепили Grok по яйцам - теперь нельзя раздевать реальных людей, штраф 100к евро в день 
18:49 Чак Норрис ушел - 19 марта 2026, 86 лет, семья подтвердила 
17:05 Огородники 
13:41 8 марта: желаю аптайма 99.9% и e-e-a-t без локов 
13:02 С юмором по жизни! 
05:10 Точные прогнозы на футбол 
16:47 Какой фильм вы любите посмотреть перед сном?