Сайт на WP
Страницы: 1
Сайт на WP, Проблема с robots.txt
При проверке сайта www.dtlc.ru разные сервисы (cy-pr, seopult) выдают "Файл robots.txt не настроен". Также супр пишет что и sitemap не настроенМожет кто нибудь помочь разобраться в чем дело?
Спасибо!
Цитата
Дмитрий Смирнов пишет:
При проверке сайта www.dtlc.ru разные сервисы (cy-pr, seopult) выдают "Файл robots.txt не настроен". Также супр пишет что и sitemap не настроенМожет кто нибудь помочь разобраться в чем дело?
Спасибо!

Найдите любой популярный сайт на ВП, скопируйте у него роботс, подставьте в нужных местах свой домен и залейте на хостинг. 
Лично я вот такой роботс на вп пользую 

Цитата

User-agent: *
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: /comments
Disallow: */comments
Disallow: */*/feed/*/
Disallow: */feed
Crawl-delay: 4

User-agent: Yandex
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: /comments
Disallow: */comments
Disallow: */*/feed/*/
Disallow: */feed
Crawl-delay: 4
Host: mysite.ru

Sitemap: http://mysite.ru/sitemap.xml.gz
Sitemap: http://mysite.ru/sitemap.xml
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
21:12 Артемий Лебедев: «ВКонтакте» станет «новым поисковиком» 
19:23 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
21:50 Трамп пригрозил Google судом 
15:03 Adtrafico - Правильная партнёрская сеть под бурж трафик 
12:43 Profit Pixels - In-House Форекс, Крипто, Трейдинг CPA Офферы | Еженедельные Выплаты | CPA до $950 
18:22 3snet - гемблинг, беттинг, форекс, бинарные опционы, майнинг 
17:52 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
22:48 DualCoin - быстрый криптовалютный обменник 
22:21 Создам под вашу нишу сетку сайтов-сателлитов для привлечения целевого трафика 
21:01 Coin Click.cc - Быстрый и надежный обмен электронных валют в два клика 
18:29 Belurk — высокоскоростные анонимные прокси от 0,24 рублей 
17:22 Продвижение Яндекс подсказок от hoopbots 
16:06 РАССЫЛКА | ИНВАЙТ в телеграм до 10000 в сутки без бана 
16:03 РАССЫЛКА | ИНВАЙТ в телеграм до 10000 в сутки без бана 
21:59 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди 
21:17 Шашлыки в 2012-2022 году 
13:49 Не храните данные на жёстких дисках 
08:22 Инфобизнесменша приобрела курсы у другой за 5,5 млн рублей, но не стала богатой. Она обратилась в полицию 
08:15 Новый уровень мошенничества: как россиян обманывают с помощью фейковых порнороликов 
21:40 Telegram не смог провести различие между требованиями автократических режимов и законными демократическими запросами 
21:36 Осторожно! Криптовалюта