Google не удалось просканировать сайт
Страницы: 1 2 След.
[ Закрыто ] Google не удалось просканировать сайт, Ругается на robots.
Добрый день. Пытаюсь добавить сайт   http://gipsokarton-simferopol.ru в Google webmaster. Но при обработке выходит следующее сообщение:
 "Google не удалось просканировать ваш сайт, так как закрыт доступ к файлу robots.txt"?

Вот что выдает сервис bertal.ru : https://bertal.ru/index.php?a3686320/gipsokarton-simferopol.ru/robots.txt#h

Помогите решить проблему.
Настройте robots и будет вам счастье
Цитата
cheatforcs пишет:
Настройте robots и будет вам счастье

Есть пример правильно настроенного robots?
Нужен правильный robots для сайтов , у которых нияего не закрыто для индексации Яндекса и Гугла
Страница недоступна
Возможно, страница недоступна или ее сканирование запрещено в файле robots.txt
Сайт реагирует на юзер агент, особенно когда в нём присутствует слово google, может  .htaccess настроен не правильно или конфигурация веб сервера , или против гугла
Если не найдёте решение обратитесь к своему хостеру может помогут мне помогали по многим вопросам
Цитата
WGN пишет:
Если не найдёте решение обратитесь к своему хостеру может помогут мне помогали по многим вопросам


Хостер ответил:

"Данная проблема не является хостинговой и наблюдается на стороне движка.
Анализ, отладка и правка скриптов выходит за рамки работ, выполняемых технической поддержкой хостинга. По данному вопросу, пожалуйста, обратитесь к разработчикам сайта, либо на тематические ресурсы"
Цитата
ZoRKeG пишет:
Сайт реагирует на юзер агент, особенно когда в нём присутствует слово google, может .htaccess настроен не правильно или конфигурация веб сервера , или против гугла

А как и кем настраивается htaccess ? Можно самому или на это есть право только у админ хостинга?
User-agent: *
Disallow:

User-agent: Yandex
Disallow: 
Host: gipsokarton-simferopol.ru
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Изменено: Сергей Бойков - 13 Апреля 2017 11:01
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Цитата
Дмитрий Началов пишет:
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Обычно в корне сайта лежит.
Цитата
Дмитрий Началов пишет:
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Внес изменений в .htaccessпо Вашему совету, google перестал ругаться Спасибо. Проблема решена.
Не за что, обращайтесь. Поскольку вопрос исчерпан, полагаю тему можно закрыть.
Страницы: 1 2 След.
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
13:54 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
14:50 Индексация страниц 
12:36 У кого новостник, дайте пару советов плиз 
13:53 AviTool - мощный инструмент для автоматизации работы с Avito 
17:01 Absence в Армении 
23:19 Ребята подскажите какими сервисами и прогами вы пользуетесь для SEO продвижения? 
14:50 Какую выбрать тему/нишу для сайта? 
19:22 Продажа аккаунтов HH.RU 
15:28 Рассылки СМС/SMS, Вайбер/Viber, Ватсап/Whatsapp, Телеграм/Telegram любой тематики по всему миру 
22:49 Обменник криптовалюты OnlyCrypto 
20:21 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
19:49 CactusPay.PRO | Умная платёжная система с выводом в USDT TRC-20 
16:02 Продам аккаунты Gmail USA IP | Gmail MIX IP | Outlook Old 
19:37 Продажа лидов: форекс, инвестиции, нативка, гемблинг, чарджбеки 
22:08 Накрутка поисковых подсказок 
05:04 Точные прогнозы на футбол 
14:01 Union Pharm - топовая фарма-партнерка для профессионалов! 
10:59 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди 
12:23 150+ хакерских поисковых систем и инструментов 
17:41 Стряхнуть обыденность - об Агасфере 
10:54 Добро пожаловать в цифровой мир...