Google не удалось просканировать сайт
Страницы: 1 2 След.
[ Закрыто ] Google не удалось просканировать сайт, Ругается на robots.
Добрый день. Пытаюсь добавить сайт   http://gipsokarton-simferopol.ru в Google webmaster. Но при обработке выходит следующее сообщение:
 "Google не удалось просканировать ваш сайт, так как закрыт доступ к файлу robots.txt"?

Вот что выдает сервис bertal.ru : https://bertal.ru/index.php?a3686320/gipsokarton-simferopol.ru/robots.txt#h

Помогите решить проблему.
Настройте robots и будет вам счастье
Цитата
cheatforcs пишет:
Настройте robots и будет вам счастье

Есть пример правильно настроенного robots?
Нужен правильный robots для сайтов , у которых нияего не закрыто для индексации Яндекса и Гугла
Страница недоступна
Возможно, страница недоступна или ее сканирование запрещено в файле robots.txt
Сайт реагирует на юзер агент, особенно когда в нём присутствует слово google, может  .htaccess настроен не правильно или конфигурация веб сервера , или против гугла
Если не найдёте решение обратитесь к своему хостеру может помогут мне помогали по многим вопросам
Цитата
WGN пишет:
Если не найдёте решение обратитесь к своему хостеру может помогут мне помогали по многим вопросам


Хостер ответил:

"Данная проблема не является хостинговой и наблюдается на стороне движка.
Анализ, отладка и правка скриптов выходит за рамки работ, выполняемых технической поддержкой хостинга. По данному вопросу, пожалуйста, обратитесь к разработчикам сайта, либо на тематические ресурсы"
Цитата
ZoRKeG пишет:
Сайт реагирует на юзер агент, особенно когда в нём присутствует слово google, может .htaccess настроен не правильно или конфигурация веб сервера , или против гугла

А как и кем настраивается htaccess ? Можно самому или на это есть право только у админ хостинга?
User-agent: *
Disallow:

User-agent: Yandex
Disallow: 
Host: gipsokarton-simferopol.ru
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Изменено: Сергей Бойков - 13 Апреля 2017 11:01
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Цитата
Дмитрий Началов пишет:
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Обычно в корне сайта лежит.
Цитата
Дмитрий Началов пишет:
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Внес изменений в .htaccessпо Вашему совету, google перестал ругаться Спасибо. Проблема решена.
Не за что, обращайтесь. Поскольку вопрос исчерпан, полагаю тему можно закрыть.
Страницы: 1 2 След.
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
09:47 Adsense личный опыт 
13:13 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 
13:47 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
08:27 Ищу специалистов 
08:18 Прибыль 200$ - 400$, за каждую 1000 уников! Google, FB и тд 
08:12 ру гембла 
09:18 Влияние использования ИИ для написания текстов на позицию в поисковой выдаче 
11:52 BIGPROXY.SHOP - Резидентные Ротационные Backconnect Proxy USA EUROPA MIX [Безлимитный трафик] 
10:06 Услуга чертежника и 3D моделирования 
08:16 Linken Sphere – браузер-антидетект нового поколения 
06:27 Продам аккаунты HeadHunter (Верификация на ИП) 
22:08 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
17:43 Volna.money 
14:17 ProfiCash.ru - обмен Tether ERC-2 
09:44 Всего п онемногу 
17:09 Точные прогнозы на футбол 
10:00 Ну что, кто куда деваете свои сайты? 
16:22 Компьютерная мышь 
23:55 Добро пожаловать в цифровой мир... 
13:13 О природе путешествий. 
00:15 Накрутка поисковых подсказок