robots.txt для блога на WordPress
Страницы: 1
robots.txt для блога на WordPress, Посоветуйте оптимальный пример robots.txt для блога на WordPress
Уважаемые форумчане. Посоветуйте пример нормального файла robots.txt для блога на WordPress. То что сейчас стои у меня - вот. Но, например, вычитал, что  Disallow: /category/*/* - это не правильно, правильно будет Disallow: /category/*  Посоветуйте, кто в теме. 

Код
User-agent: *
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /webstat/
Disallow: /feed/
Disallow: /trackback
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Disallow: /category/*/*
Disallow: /wp-content/plugins
Disallow: /wp-content/themes
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /comments
 
User-agent: Yandex
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /webstat/
Disallow: /feed/
Disallow: /trackback
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Disallow: /*?*
Disallow: /*?
Disallow: /category/*/*
Disallow: /wp-content/plugins
Disallow: /wp-content/themes
Disallow: /wp-admin/
Disallow: /wp-includes/
Disallow: /comments
Host: мой хост
 
Sitemap: http://мой сайт/sitemap.xml
Sitemap: http://мой сайт/sitemap.xml.gz
 
А также подскажите, нужно ли на WordPress две карты сайта, одна в .xml, а другая обычной страницей в меню, тоесть перечень ссылок.
Всегда использую такой вид файла:
User-agent: Yandex
Disallow: /cgi-bin
# запрещаем индексацию системных папок
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
# запрещаем индексацию страницы входа и регистрации
Disallow: /wp-login.php
Disallow: /wp-register.php
# запрещаем индексацию трекбеков, rss-ленты
Disallow: /trackback
Disallow: /feed
Disallow: /rss
Disallow: */trackback
Disallow: */feed
Disallow: */rss
Disallow: /xmlrpc.php
# запрещаем индексацию постраничных комментариев
Disallow: */comments
Disallow: */comment-page*
# запрещаем индексацию результатов поиска и другого возможного «мусора»
Disallow: /*?*
Disallow: /*?
# разрешаем индексацию вложений, особо мнительным можно запретить папку wp-content целиком
Allow: /wp-content/uploads


User-agent: Googlebot-Image
Disallow:
Allow: /*
# разрешаем индексировать изображения
User-agent: YandexBlog
Disallow:
Allow: /*
User-Agent: *
Crawl-Delay: 10

User-Agent: *
sitemap: sitemap.xml
sitemap: sitemap.xml.gz

User-agent: *
Disallow: /cgi-bin
# запрещаем индексацию системных папок
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
# запрещаем индексацию страницы входа и регистрации
Disallow: /wp-login.php
Disallow: /wp-register.php
# запрещаем индексацию трекбеков, rss-ленты
Disallow: /trackback
Disallow: /feed
Disallow: /rss
Disallow: */trackback
Disallow: */feed
Disallow: */rss
Disallow: /xmlrpc.php
# запрещаем индексацию архива автора
Disallow: /author*
# запрещаем индексацию постраничных комментариев
Disallow: */comments
Disallow: */comment-page*
# запрещаем индексацию результатов поиска и другого возможного «мусора»
Disallow: /*?*
Disallow: /*?
# разрешаем индексацию вложений, особо мнительным можно запретить папку wp-content целиком
# Allow: /wp-content/uploads
А /category/ разве не нужно закрывать? Не дубли получатся? И зачем закрывать сами комментарии? Обьясните, пожалуйста.
Цитата
Олег Волощук пишет:
А /category/ разве не нужно закрывать? Не дубли получатся? И зачем закрывать сами комментарии? Обьясните, пожалуйста.
А главную нужно закрывать? Разве на ней не дубли?
Цитата
Олег Волощук пишет:
А /category/ разве не нужно закрывать? Не дубли получатся? И зачем закрывать сами комментарии? Обьясните, пожалуйста.
Вы просмотрите страницы комментариев. Вот там самые настоящие дубли....
а не научились ли ПС сами определять дубли?
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
15:08 Стоит ли добавлять сайт в Rambler топ 100? 
14:14 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 
19:33 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
09:02 Как продвигать сайт с неуникальным контентом 
08:57 Absence в Армении 
14:50 Индексация страниц 
12:36 У кого новостник, дайте пару советов плиз 
17:11 Продам аккаунты Gmail USA IP | Gmail MIX IP | Outlook Old 
16:38 Продам копию сайта. 
12:52 swapsfera.com 
12:38 Volna.money 
11:13 Сканы доков Eu,Ru,Usa 
18:59 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
12:20 ABCproxy—Премиум жилой прокси, 190+ локаторов, Неограниченная пропускная способность, $0.77/GB, Trial Scraper api 
21:30 Ну что, кто куда деваете свои сайты? 
21:05 Точные прогнозы на футбол 
22:09 Добро пожаловать в цифровой мир... 
19:42 Топ-5 способов использовать мобильные прокси для бизнеса: подробный обзор 
22:08 Накрутка поисковых подсказок 
14:01 Union Pharm - топовая фарма-партнерка для профессионалов! 
10:59 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди