Запрет страниц в файле robots.txt
Страницы: 1
Запрет страниц в файле robots.txt
Привет всем! Не знаю что натворила, но у меня в файле роботс стоит запрет на индексирование. Увидела это сообщение в яндекс вебмастере. Страницы все вылетели из поиска яндекса. Вот роботс.тхт
User-agent: * 
Disallow: /page
Disallow: /tag
Disallow: /cgi-bin 
Disallow: /?            
Disallow: /wp-          
Disallow: /wp/                             
Disallow: *?s=           
Disallow: *&s=        
Disallow: /search/      
Disallow: /author/         
Disallow: /users/          
Disallow: */trackback                    
Disallow: */feed          
Disallow: */rss            
Disallow: */embed  
Disallow: */wlwmanifest.xml 
Disallow: /xmlrpc.php 
Disallow: *utm=  
Disallow: *openstat= 
Allow: */uploads
Disallow: /#
Sitemap: http://адрес сайта
Sitemap: http:/адрес сайта
Host: адрес сайта
Изменено: Ann Osta - 28 Июля 2018 19:03

Комплексное SEO продвижение в поисковых системах Яндекс, Google

Disallow: /# Этим вы запретили индексацию всего сайта. Знак #  в robots.txt  это комментарий - соответственно  Disallow: / = запрет от корня. "Sitemap: http:/адрес"  это также неправильно. Оставлять, только, первый "Sitemap: http://адрес сайта ". Все остальное норм.
Цитата
Aleksandr Botnikov пишет:
Disallow: /# Этим вы запретили индексацию всего сайта. Знак # в robots.txt это комментарий - соответственно Disallow: / = запрет от корня. "Sitemap: http:/адрес" это также неправильно. Оставлять, только, первый "Sitemap: http://адрес сайта ". Все остальное норм.

О, спасибо большое, сейчас исправлю. А вот это Sitemap: http:/ , я просто при редактировании темы случайно удалила один слэш
Вот правильный роботс для вордпресса

Код
 User-agent: *              
                            
Disallow: /cgi-bin          
Disallow: /?                
Disallow: /wp-              
Disallow: /wp/               
                            
Disallow: *?s=              
Disallow: *&s=              
Disallow: /search/          
Disallow: /author/          
Disallow: /users/           
Disallow: */trackback        
                            
Disallow: */feed            
Disallow: */rss             
Disallow: */embed           
Disallow: */wlwmanifest.xml  
                            
Disallow: /xmlrpc.php       
Disallow: *utm*=            
Disallow: *openstat=        
Allow: */uploads            

User-agent: GoogleBot       
Disallow: /cgi-bin
Disallow: /?
Disallow: /wp-
Disallow: /wp/
Disallow: *?s=
Disallow: *&s=
Disallow: /search/
Disallow: /author/
Disallow: /users/
Disallow: */trackback
Disallow: */feed
Disallow: */rss
Disallow: */embed
Disallow: */wlwmanifest.xml
Disallow: /xmlrpc.php
Disallow: *utm*=
Disallow: *openstat=
Allow: */uploads
Allow: /*/*.js              
Allow: /*/*.css             
Allow: /wp-*.png
Allow: /wp-*.jpg
Allow: /wp-*.jpeg
Allow: /wp-*.gif 
Allow: /wp-admin/admin-ajax.php 

User-agent: Yandex 
Disallow: /cgi-bin
Disallow: /?
Disallow: /wp-
Disallow: /wp/
Disallow: *?s=
Disallow: *&s=
Disallow: /search/
Disallow: /author/
Disallow: /users/
Disallow: */trackback
Disallow: */feed
Disallow: */rss
Disallow: */embed
Disallow: */wlwmanifest.xml
Disallow: /xmlrpc.php
Allow: */uploads
Allow: /*/*.js
Allow: /*/*.css
Allow: /wp-*.png
Allow: /wp-*.jpg
Allow: /wp-*.jpeg
Allow: /wp-*.gif
Allow: /wp-admin/admin-ajax.php
Clean-Param: utm_source&utm_medium&utm_campaign
Clean-Param: openstat 
Host:  адрес_сайта

Sitemap: http://адрес_сайта/sitemap_index.xml
хост уже не нужен. не смертельно, но яндекс рекомендует удалять.
Я из США, а эти двое то ли из России, то ли из Москвы. ©
Спасибо за правильный роботс, детективу хост значит уберем. А что вот эти строчки значат?
Clean-Param: utm_source&utm_medium&utm_campaign
Clean-Param: openstat
Ann Osta, Ну это когда вы ставите ютм метки, например для отслеживания трафика с рекламы, опенстат тоже для метрики
Цитата
SEO Лаборант пишет:
Ann Osta, Ну это когда вы ставите ютм метки, например для отслеживания трафика с рекламы, опенстат тоже для метрики

Понятно, спасибо
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
17:28 Помогите с продвижением 
11:10 Lottery Partner в поиске партнеров! Самые высокие ставки! 
08:25 Можно с помощью накрутки ПФ "почувствовать выход в опу мира и ощутить ответ тех поддержки яшы"? 
08:23 Накрутка поведенческих факторов весна - лето 2020 для продвижения сайта в ТОП Яндекса и Google 
20:26 Падение трафика с Гугла более чем в 2 раза! А дальше - больше 
18:26 ClickDealer- свои люди на рынке буржа! 
15:48 Turbobit.net - Официальная тема, Costaction ПП 
17:35 SocksHub.net - proxy, которые подходят всем 
17:18 Привлеку подписчиков на Ваш канал в Яндекс Дзен, а также дочитку на статьи канала. 
16:42 Куплю недорогие сайты под ГГЛ 
13:05 Обменник криптовалют WekSell 
12:00 Пишу королевский контент! Не верите? Проверьте! 
11:01 Продажа Google Play Developer console 
00:22 Скупаю каналы Дзен 
18:52 ruposters.ru: На турецких курортах резко началась новая волна коронавируса 
18:07 Партнёрская рекламная сеть Vadideo Network 
16:47 [b]Webvork [/b]- международная товарная СРА сеть с сертифицированными офферами на Европу. 
11:59 Edu-affiliates - лучшая партнерка в нише эссе! 
07:46 Обсчитали в магазине 
22:08 Ваш сайт блокируют гос органы? Есть решение! 
20:41 Болезни нет, а вакцина есть