robots.txt для блога на WordPress
Страницы: 1
robots.txt для блога на WordPress, Посоветуйте оптимальный пример robots.txt для блога на WordPress
Уважаемые форумчане. Посоветуйте пример нормального файла robots.txt для блога на WordPress. То что сейчас стои у меня - вот. Но, например, вычитал, что  Disallow: /category/*/* - это не правильно, правильно будет Disallow: /category/*  Посоветуйте, кто в теме. 

Код
User-agent: *
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /webstat/
Disallow: /feed/
Disallow: /trackback
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Disallow: /category/*/*
Disallow: /wp-content/plugins
Disallow: /wp-content/themes
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /comments
 
User-agent: Yandex
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /webstat/
Disallow: /feed/
Disallow: /trackback
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Disallow: /category/*/*
Disallow: /wp-content/plugins
Disallow: /wp-content/themes
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /comments
Host: мой хост
 
Sitemap: http://мой сайт/sitemap.xml
Sitemap: http://мой сайт/sitemap.xml.gz
 
А также подскажите, нужно ли на WordPress две карты сайта, одна в .xml, а другая обычной страницей в меню, тоесть перечень ссылок.
Всегда использую такой вид файла:
User-agent: Yandex
Disallow: /cgi-bin
# запрещаем индексацию системных папок
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
# запрещаем индексацию страницы входа и регистрации
Disallow: /wp-login.php
Disallow: /wp-register.php
# запрещаем индексацию трекбеков, rss-ленты
Disallow: /trackback
Disallow: /feed
Disallow: /rss
Disallow: */trackback
Disallow: */feed
Disallow: */rss
Disallow: /xmlrpc.php
# запрещаем индексацию постраничных комментариев
Disallow: */comments
Disallow: */comment-page*
# запрещаем индексацию результатов поиска и другого возможного «мусора»
Disallow: /*?*
Disallow: /*?
# разрешаем индексацию вложений, особо мнительным можно запретить папку wp-content целиком
Allow: /wp-content/uploads


User-agent: Googlebot-Image
Disallow:
Allow: /*
# разрешаем индексировать изображения
User-agent: YandexBlog
Disallow:
Allow: /*
User-Agent: *
Crawl-Delay: 10

User-Agent: *
sitemap: sitemap.xml
sitemap: sitemap.xml.gz

User-agent: *
Disallow: /cgi-bin
# запрещаем индексацию системных папок
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
# запрещаем индексацию страницы входа и регистрации
Disallow: /wp-login.php
Disallow: /wp-register.php
# запрещаем индексацию трекбеков, rss-ленты
Disallow: /trackback
Disallow: /feed
Disallow: /rss
Disallow: */trackback
Disallow: */feed
Disallow: */rss
Disallow: /xmlrpc.php
# запрещаем индексацию архива автора
Disallow: /author*
# запрещаем индексацию постраничных комментариев
Disallow: */comments
Disallow: */comment-page*
# запрещаем индексацию результатов поиска и другого возможного «мусора»
Disallow: /*?*
Disallow: /*?
# разрешаем индексацию вложений, особо мнительным можно запретить папку wp-content целиком
# Allow: /wp-content/uploads
А /category/ разве не нужно закрывать? Не дубли получатся? И зачем закрывать сами комментарии? Обьясните, пожалуйста.
Цитата
Олег Волощук пишет:
А /category/ разве не нужно закрывать? Не дубли получатся? И зачем закрывать сами комментарии? Обьясните, пожалуйста.
А главную нужно закрывать? Разве на ней не дубли?
Цитата
Олег Волощук пишет:
А /category/ разве не нужно закрывать? Не дубли получатся? И зачем закрывать сами комментарии? Обьясните, пожалуйста.
Вы просмотрите страницы комментариев. Вот там самые настоящие дубли....
а не научились ли ПС сами определять дубли?
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
09:42 ЕС душит ТикТок: прощай бесконечная лента и RPM? Что с монетизацией? 
09:16 Yahoo Scout: Нейро-привет из склепа. Реальный шанс на траф или мимо? 
20:57 01.02. Апдейт 31.01 // Chrome готовит "чёрную метку" для ИИ? 
14:13 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 
13:38 2Index - быстрая индексация страниц сайта и обратных ссылок 
12:44 РСЯ и тормоза сайта: Яндекс начал штрафовать за плохой PageSpeed? 
23:09 Как безопасно купить Гугл почту? 
10:42 Рассылки СМС/SMS, Вайбер/Viber, Ватсап/Whatsapp, Телеграм/Telegram любой тематики по всему миру 
09:36 Мониторинг обменников Сrypto-scout.io 
05:29 Продам обменник криптовалюты, а также новый обменник под ключ с обучением. Скидки на скрипты обменника 
04:20 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
23:26 Sova.gg - надежный обменник криптовалюты. 
19:23 Mixmasters - Exchange without AML and KYC 
15:54 Продам аккаунты Gmail USA IP | Gmail MIX IP | Outlook Old 
10:14 Кулеры и БП станут золотыми? Медь по 13 штук, олово в космосе 
06:50 Точные прогнозы на футбол 
06:06 Moltbook: Соцсеть для ботов, где людям закрыли рот. Началось? 
02:12 Ставки на супер тренды в спорте 
22:31 [AI] Бот за $600к советовал есть сыр с крысами. Нью-Йорк его (наконец-то) снес 
13:38 Осталось 3-5 месяцев до блокировки YouTube в России, — заявил Клименко 
07:11 Список обновленных тем пуст...