Google не удалось просканировать сайт
Страницы: 1 2 След.
[ Закрыто ] Google не удалось просканировать сайт, Ругается на robots.
Добрый день. Пытаюсь добавить сайт   http://gipsokarton-simferopol.ru в Google webmaster. Но при обработке выходит следующее сообщение:
 "Google не удалось просканировать ваш сайт, так как закрыт доступ к файлу robots.txt"?

Вот что выдает сервис bertal.ru : https://bertal.ru/index.php?a3686320/gipsokarton-simferopol.ru/robots.txt#h

Помогите решить проблему.
Настройте robots и будет вам счастье
Цитата
cheatforcs пишет:
Настройте robots и будет вам счастье

Есть пример правильно настроенного robots?
Нужен правильный robots для сайтов , у которых нияего не закрыто для индексации Яндекса и Гугла
Страница недоступна
Возможно, страница недоступна или ее сканирование запрещено в файле robots.txt
Сайт реагирует на юзер агент, особенно когда в нём присутствует слово google, может  .htaccess настроен не правильно или конфигурация веб сервера , или против гугла
Если не найдёте решение обратитесь к своему хостеру может помогут мне помогали по многим вопросам
Цитата
WGN пишет:
Если не найдёте решение обратитесь к своему хостеру может помогут мне помогали по многим вопросам


Хостер ответил:

"Данная проблема не является хостинговой и наблюдается на стороне движка.
Анализ, отладка и правка скриптов выходит за рамки работ, выполняемых технической поддержкой хостинга. По данному вопросу, пожалуйста, обратитесь к разработчикам сайта, либо на тематические ресурсы"
Цитата
ZoRKeG пишет:
Сайт реагирует на юзер агент, особенно когда в нём присутствует слово google, может .htaccess настроен не правильно или конфигурация веб сервера , или против гугла

А как и кем настраивается htaccess ? Можно самому или на это есть право только у админ хостинга?
User-agent: *
Disallow:

User-agent: Yandex
Disallow: 
Host: gipsokarton-simferopol.ru
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Изменено: Сергей Бойков - 13 Апреля 2017 11:01
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Цитата
Дмитрий Началов пишет:
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Обычно в корне сайта лежит.
Цитата
Дмитрий Началов пишет:
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Внес изменений в .htaccessпо Вашему совету, google перестал ругаться Спасибо. Проблема решена.
Не за что, обращайтесь. Поскольку вопрос исчерпан, полагаю тему можно закрыть.
Страницы: 1 2 След.
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
19:29 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
17:29 Как продвигать сайт с неуникальным контентом 
14:50 Индексация страниц 
12:36 У кого новостник, дайте пару советов плиз 
13:53 AviTool - мощный инструмент для автоматизации работы с Avito 
17:01 Absence в Армении 
23:19 Ребята подскажите какими сервисами и прогами вы пользуетесь для SEO продвижения? 
11:13 Telegram Bot автопродаж Google Voice , Old USA Gmail 2006 - 2016. 
11:13 SpaceSwap.cc - Быстрый и надежный обменник криптовалют 
08:44 Affiliate Top - партнерская программа нового уровня 
07:43 Продам копию сайта. 
04:07 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
21:42 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
18:41 Взлом пароля Mail.ru почты, взломать пароль Mail, взлом аккаунта Yandex 
23:07 Ну что, кто куда деваете свои сайты? 
19:30 Добро пожаловать в цифровой мир... 
19:42 Топ-5 способов использовать мобильные прокси для бизнеса: подробный обзор 
22:08 Накрутка поисковых подсказок 
05:04 Точные прогнозы на футбол 
14:01 Union Pharm - топовая фарма-партнерка для профессионалов! 
10:59 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди