Google не удалось просканировать сайт
Страницы: 1 2 След.
[ Закрыто ] Google не удалось просканировать сайт, Ругается на robots.
Добрый день. Пытаюсь добавить сайт   http://gipsokarton-simferopol.ru в Google webmaster. Но при обработке выходит следующее сообщение:
 "Google не удалось просканировать ваш сайт, так как закрыт доступ к файлу robots.txt"?

Вот что выдает сервис bertal.ru : https://bertal.ru/index.php?a3686320/gipsokarton-simferopol.ru/robots.txt#h

Помогите решить проблему.
Настройте robots и будет вам счастье
Цитата
cheatforcs пишет:
Настройте robots и будет вам счастье

Есть пример правильно настроенного robots?
Нужен правильный robots для сайтов , у которых нияего не закрыто для индексации Яндекса и Гугла
Страница недоступна
Возможно, страница недоступна или ее сканирование запрещено в файле robots.txt
Сайт реагирует на юзер агент, особенно когда в нём присутствует слово google, может  .htaccess настроен не правильно или конфигурация веб сервера , или против гугла
Если не найдёте решение обратитесь к своему хостеру может помогут мне помогали по многим вопросам
Цитата
WGN пишет:
Если не найдёте решение обратитесь к своему хостеру может помогут мне помогали по многим вопросам


Хостер ответил:

"Данная проблема не является хостинговой и наблюдается на стороне движка.
Анализ, отладка и правка скриптов выходит за рамки работ, выполняемых технической поддержкой хостинга. По данному вопросу, пожалуйста, обратитесь к разработчикам сайта, либо на тематические ресурсы"
Цитата
ZoRKeG пишет:
Сайт реагирует на юзер агент, особенно когда в нём присутствует слово google, может .htaccess настроен не правильно или конфигурация веб сервера , или против гугла

А как и кем настраивается htaccess ? Можно самому или на это есть право только у админ хостинга?
User-agent: *
Disallow:

User-agent: Yandex
Disallow: 
Host: gipsokarton-simferopol.ru
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Изменено: Сергей Бойков - 13 Апреля 2017 11:01
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Цитата
Дмитрий Началов пишет:
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Обычно в корне сайта лежит.
Цитата
Дмитрий Началов пишет:
Цитата
Сергей Бойков пишет:
Options +FollowSymLinks
RewriteEngine On

RewriteCond %{HTTP_HOST} ^www.gipsokarton-simferopol.ru\.ru$ [NC]
RewriteRule ^(.*)$ _http://gipsokarton-simferopol.ru/$1 [R=301,L]
RewriteCond %{THE_REQUEST} ^[A-Z]{3,9}\ /index\.html\ HTTP/
RewriteRule ^index\.html$ _http://gipsokarton-simferopol.ru/ [R=301,L]
ErrorDocument 404 /404.html


Такой .htaccess должен подойти (перед http в двух местах нижнее подчеркивание уберите).Host в Robots.txt указывается без http
Спасибо, но скажите, где и как можно редактировать .htaccess ?
Внес изменений в .htaccessпо Вашему совету, google перестал ругаться Спасибо. Проблема решена.
Не за что, обращайтесь. Поскольку вопрос исчерпан, полагаю тему можно закрыть.
Страницы: 1 2 След.
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
11:07 01.02. Апдейт 31.01 // Chrome готовит "чёрную метку" для ИИ? 
06:34 Гугл пухнет от кеша, а нам - крошки. Разбор $114 млрд: Адсенс в минусе, Ютуб на подписках 
01:09 Yahoo Scout: Нейро-привет из склепа. Реальный шанс на траф или мимо? 
17:33 AntiBot Cloud - бесплатный скрипт и сервис защиты сайтов 
15:14 Апдейт Яндекса 7 февраля. Пока серп трясет, некоторые по ботам плачут 
15:10 Google Discover Core Update: Дискавер отделяют от поиска? 
11:30 ЕС душит ТикТок: прощай бесконечная лента и RPM? Что с монетизацией? 
10:22 Swapwatch.org — Мониторинг криптовалютных обменников 
10:19 SwapPix.io - быстрый и безопасный обменник криптовалют. 
15:12 CryptoGraph — Анонимный обмен криптовалют без KYC и AML 
12:38 Bankomat001 - Сервис обмена электронных валют 
10:42 Рассылки СМС/SMS, Вайбер/Viber, Ватсап/Whatsapp, Телеграм/Telegram любой тематики по всему миру 
09:36 Мониторинг обменников Сrypto-scout.io 
05:29 Продам обменник криптовалюты, а также новый обменник под ключ с обучением. Скидки на скрипты обменника 
11:10 Moltbook: Соцсеть для ботов, где людям закрыли рот. Началось? 
11:02 Гильотина для классиков: Клод доедает физические книги 
06:04 Кулеры и БП станут золотыми? Медь по 13 штук, олово в космосе 
05:09 Точные прогнозы на футбол 
23:45 Ставки на супер тренды в спорте 
22:31 [AI] Бот за $600к советовал есть сыр с крысами. Нью-Йорк его (наконец-то) снес 
13:38 Осталось 3-5 месяцев до блокировки YouTube в России, — заявил Клименко