Глюк в гугл-вебмастере Доступ к URL заблокирован в файле robots.txt.
Страницы: 1
Глюк в гугл-вебмастере Доступ к URL заблокирован в файле robots.txt.
Доброго времени суток. Наблюдаю странную ситуацию. Вчера добавил новый сайт в панель вебмастера гугла, после загрузки карты сайта (sitemap.xml) появились предупреждение - Доступ к URL заблокирован в файле robots.txt. Ругается на все адреса, что указаны в карте, как будто сайт полностью заблокирован.

Вот мой robots.txt:




User-agent: *
Disallow:

User-agent: Yandex
Disallow:
Host: site.ru

Sitemap: http://site.ru/sitemap.xml




Как видите, сайт полностью открыт для сканирования. Ну и чего ему не нравится?!  
А разве вместо Disallow:   не allow: \ надо ставить?=)
Darksnow, команды allow в принципе не существует, разрешающая директива как бы по умолчанию на всё к чему есть доступ.



desertFox, может глюк, а может лишние непечатные символы распознал... уберите "Disallow:" вообще и посмотрите что скажет валидатор robots.txt
Цитата
Darksnow пишет:
А разве вместо Disallow: не allow: \ надо ставить?=)

Откуда Вы это взяли? При составлении robots.txt я использовал информацию из панели вебмастера яндекса - https://help.yandex.ru/webmaster/controlling-robot/robots-txt.xml#allow-disallow

цитирую:


Цитата

User-agent: Yandex


Disallow: # то же, что и Allow: /





User-agent: Yandex


Allow: # то же, что и Disallow: /


Цитата
desertFox, может глюк, а может лишние непечатные символы распознал... уберите "Disallow:" вообще и посмотрите что скажет валидатор robots.txt

когда проверяю урлы на доступность в разделе "Инструмент проверки файла robots.txt" пишет "ДОСТУПЕН", а в разделе "Файлы Sitemap" пишет что все урлы закрыты в robots.txt
Изменено: desertFox - 18 Июня 2015 18:24
desertFox, Feanorr, почитайте для информации: https://help.yandex.ru/webmaster/controlling-robot/robots-txt.xml#allow-disallow
Цитата
desertFox пишет:
после загрузки карты сайта (www.google.com/url?q=http%3A%2F%2Fsite.ru%2Fsitemap.xml&sa=D&sntz=1&usg=AFQjCNF7ABjEWvLH3ey4VmSMr9JRpPxpMg]sitemap.xml) появились предупреждение - Доступ к URL заблокирован в файле robots.txt.
Плагин WordPress SEO by Yoast иногда конфликтует с картой сайта. Нет такого? Если есть, проверьте настройки или вообще попробуйте заменить другим.
Пройдет за пару дней, это просто левый текст про роботс выводится не в тему, у меня точно так же было с новым сайтом. Беспокоиться не о чем.
Цитата
Tip4ik пишет:
desertFox, Feanorr, почитайте для информации: https://help.yandex.ru/webmaster/controlling-robot/robots-txt.xml#allow-disallow

вы повторяете мои слова, внимательнее читайте мои комментарии ))



Цитата
Ксана Лем пишет:
Цитата
desertFox пишет:
после загрузки карты сайта (www.google.com/url?q=http%3A%2F%2Fsite.ru%2Fsitemap.xml&sa=D&sntz=1&usg=AFQjCNF7ABjEWvLH3ey4VmSMr9JRpPxpMg]sitemap.xml) появились предупреждение - Доступ к URL заблокирован в файле robots.txt.
Плагин WordPress SEO by Yoast иногда конфликтует с картой сайта. Нет такого? Если есть, проверьте настройки или вообще попробуйте заменить другим.


какие ещё плагины?!)) у меня самопис, сам его сделал, есть ещё три аналогичных самописа - никаких проблем с картой сайта не возникало




Цитата
Sasha Minsky пишет:
Пройдет за пару дней, это просто левый текст про роботс выводится не в тему, у меня точно так же было с новым сайтом. Беспокоиться не о чем.

вот и я думаю что глюк какой-то, но всё равно беспокоюсь, на гугле на форуме задал этот же вопрос, у меня только попросили дать ссылку на сайт и пока тишина, пока никто объяснил почему эти предупреждения появились, а роботс настроен нормально ибо подобный уже используется на трёх сайтах более 2-х лет и никаких проблем

сейчас наблюдаю, что страницы сайта потихоньку начали входить в индекс, всего сутки прошли, специально сам в индекс не загонял, просто интересно стало повлияют ли эти глюченные предупреждения на индексацию или нет, ну вроде пока не влияют 
Tip4ik,  desertFox, по поводу Allow виноват...smile:confused: когда-то давно её не учитывали ни Яндекс ни Google, сейчас же директива понимается практически всеми роботами. Пруф: http://robotstxt.org.ru/robotstxterrors#Allow____ 
В принципе, это надо сильно извратится над структурой, чтобы пришлось allow использовать, ни разу на практике не писал так.
Цитата
Feanorr пишет:
Tip4ik, desertFox, по поводу Allow виноват...smile:confused: когда-то давно её не учитывали ни Яндекс ни Google, сейчас же директива понимается практически всеми роботами. Пруф: http://robotstxt.org.ru/robotstxterrors#Allow____
В принципе, это надо сильно извратится над структурой, чтобы пришлось allow использовать, ни разу на практике не писал так.

всё нормально, я понял))

похоже точно глюк, надеюсь он пропадёт, вроде индексации страниц не мешает, мой robots.txt составлен нормально уверен на 100%
сегодня половину страниц попало в индекс и сообщение о заблокированных URL в файле robots.txt само пропало
тему можно закрывать
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
17:00 Ссылки с сайтов РБ 
15:33 С наступающим Новым годом! АП Яндекс ИКС 23.12.2025 
13:21 Нашел скрины выплат с Сапы за 2010 год. Пошел плакать 
11:06 "Осталось 5 дн. до НГ" АПдейт Яндекс выдача 
10:22 25.12.25 Апдейт Яндекс выдача 
09:20 Дзен окончательно всё? Или у кого-то еще «стреляет» белый контент? 
09:11 Продвижение-2022: Гугл все? Нет – Гугл не все! 
13:00 Mixmasters - Exchange without AML and KYC 
10:24 Размещение статей, ссылок и постовых на качественных ресурсах 
08:49 Продвижение на Авито 
08:48 xpoint.pro - быстрый и надежный криптообменный сервис Xpoint 
18:09 Onechange.me — надежный обменник криптовалют и фиатных средств 
14:59 Рассылки СМС/SMS, Вайбер/Viber, Ватсап/Whatsapp, Телеграм/Telegram любой тематики по всему миру 
10:06 CryptoGraph — Анонимный обмен криптовалют без KYC и AML 
16:15 Стряхнуть обыденность - об Агасфере 
16:13 Осторожно! Криптовалюта 
12:20 Компьютерная мышь 
12:08 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди 
10:21 Владельцы "китайцев" 3-леток, признавайтесь честно — сгнили или едут? 
23:08 Физические сим-карты 
22:52 37 противникам прививок от COVID грозят уголовные дела