Сайт на WP
Страницы: 1
Сайт на WP, Проблема с robots.txt
При проверке сайта www.dtlc.ru разные сервисы (cy-pr, seopult) выдают "Файл robots.txt не настроен". Также супр пишет что и sitemap не настроенМожет кто нибудь помочь разобраться в чем дело?
Спасибо!
Цитата
Дмитрий Смирнов пишет:
При проверке сайта www.dtlc.ru разные сервисы (cy-pr, seopult) выдают "Файл robots.txt не настроен". Также супр пишет что и sitemap не настроенМожет кто нибудь помочь разобраться в чем дело?
Спасибо!

Найдите любой популярный сайт на ВП, скопируйте у него роботс, подставьте в нужных местах свой домен и залейте на хостинг. 
Лично я вот такой роботс на вп пользую 

Цитата

User-agent: *
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: /comments
Disallow: */comments
Disallow: */*/feed/*/
Disallow: */feed
Crawl-delay: 4

User-agent: Yandex
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /trackback
Disallow: */trackback
Disallow: /comments
Disallow: */comments
Disallow: */*/feed/*/
Disallow: */feed
Crawl-delay: 4
Host: mysite.ru

Sitemap: http://mysite.ru/sitemap.xml.gz
Sitemap: http://mysite.ru/sitemap.xml
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
20:44 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
19:00 Индексация Телеги 
15:31 Вопросы по продвижению на поддоменах 
15:24 Adtrafico - Правильная партнёрская сеть под бурж трафик 
09:05 Google отключит все блокировщики в Chrome 
18:36 iMonetizeIt - ТОП Смартлинки и Эксклюзивные CPA офферы на Дейтинг, Нутра, Гемблинг, Свипстейк вертикалях 
18:19 Marketcall - международная партнерская сеть с оплатой Pay Per Call и LeadGen 
20:50 [eBucks] Автоматический обмен криптовалют. BTC и любые альткоины. Киви, Банковские карты и др. электронные системы. 
17:25 Продажа аккаунтов Bing Ads с балансом! 
14:38 Более 5 000 сайтов под вашу ссылку 
14:20 Продам: Флудер телефонов. Спамер телефонов. Массовые звонки на телефон 
12:25 Высококачественные и надежные прокси-серверы и 5G 
11:48 Предлагаем универсальную услугу Видео-Менеджера на ваш сайт 
09:05 Transit-Bit.com - Обмен USDT на IDR, THB, RUB и наличные 
20:53 ИИ Google поставил под сомнение подлинность фотографий высадки астронавтов США на Луну 
18:56 Точные прогнозы на футбол 
17:33 Стряхнуть обыденность - об Агасфере 
00:03 Кабмин разрешил Роскомнадзору блокировать сайты с методами обхода блокировок 
14:55 150+ хакерских поисковых систем и инструментов 
23:03 С юмором по жизни! 
19:15 Криптовалюты потеряли независимость от властей США и санкций