Google не берет во внимание Robots.txt
Страницы: 1
Google не берет во внимание Robots.txt
Уважаемые, вот возник вопрос такой , у кого еще Гугл не учитывает при индексации сайта файл Robots.txt ?, У меня в Robots написан запрет

Disallow: /user/
Но почему то юзеры есть в поиске , как быть ? что менять?

Файл Robots.txt прикрепляю :

Код
User-agent: Yandex
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /grab.php
Host: treyd.org

Sitemap: http://treyd.org/sitemap.xml

User-agent: *
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /grab.php

Sitemap: <a href=\"http://treyd.org/sitemap.xml\" target=\"_blank\">http://treyd.org/sitemap.xml</a>
Гугл частенько плюет на все запреты. В этом смыле Яша более "законопослушен"...
Глупый пингвин робко прячет, умный - смело достаёт...)
Указание <meta name="robots" content="all" /> имеет больший вес, нежели все запреты в robots.txt.
Уберите и всё должно со-временем нормализоваться.
leon_need,

Мне убрать Фразу all или всю строчку?
Цитата
Михаил пишет:
leon_need,
Мне убрать Фразу all или всю строчку?

Всю сточку долой.
Цитата
Михаил пишет:
Disallow: /grab.php

Интересно, что это за скрипт smile:o
...
а если строчка имеет вид <meta name="robots" content="index, follow"> и тоже лезут в индекс всякие запрещенные гадости ее тоже можно удалить?
Поставьте атрибут nofollow во все ссылки ведущие на профили юзеров, и тогда точно профили в индекс не попадут.
Цитата
abc000 пишет:
Цитата
Михаил пишет:
Disallow: /grab.php

Интересно, что это за скрипт

меня тоже это заинтересовало smile:D
Юрий Кузнецов,

Эт не очень хорошая штучка smile:o
Цитата
leon_need пишет:
Указание <meta name="robots" content="all" /> имеет больший вес, нежели все запреты в robots.txt.
Уберите и всё должно со-временем нормализоваться.


если только заменить на <meta name="robots" content="noindex, nofollow">
=====================================
Проблемы с Wordpress? Решение здесь.
BugFix, это поможет?
email: hjccbz2@bk.ru
ICQ: 628-591-201
А вот у меня обратная проблема с файлом robots.txt к примеру там стоит такая строчка
- Disallow: /*print
предназначена она, что бы запретить индексировать страницы для печати, но вмести с этим попали под запрет все страницы содержащие в название слово print. Может кто знает как этот момент решить
Цитата
11grad11 пишет:
А вот у меня обратная проблема с файлом robots.txt к примеру там стоит такая строчка - Disallow: /*print предназначена она, что бы запретить индексировать страницы для печати, но вмести с этим попали под запрет все страницы содержащие в название слово print. Может кто знает как этот момент решить


Это от того что не стоит в конце строчки слэш. Правильный вид:

Disallow: /*print/
Цитата
Redrik Shuhart пишет:

Это от того что не стоит в конце строчки слэш. Правильный вид:
Disallow: /*print/


Вот спасибо, я так и подозревал, что то тут не так ))))
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
19:29 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
17:29 Как продвигать сайт с неуникальным контентом 
14:50 Индексация страниц 
12:36 У кого новостник, дайте пару советов плиз 
13:53 AviTool - мощный инструмент для автоматизации работы с Avito 
17:01 Absence в Армении 
23:19 Ребята подскажите какими сервисами и прогами вы пользуетесь для SEO продвижения? 
15:31 PonyBit.ru - обменный пункт PonyBit.ru (Понибит.ру) 
13:09 swapsfera.com 
13:08 garantcoin.io - быстрый и надёжный сервис обмена криптовалюты GarantCoin 
12:31 GoodsMoney.io 
12:26 Разработка сайта, интернет-магазина, каталога на Joomla 5 и выше – опыт с 2009 года. 
11:13 Telegram Bot автопродаж Google Voice , Old USA Gmail 2006 - 2016. 
11:13 SpaceSwap.cc - Быстрый и надежный обменник криптовалют 
23:07 Ну что, кто куда деваете свои сайты? 
19:30 Добро пожаловать в цифровой мир... 
19:42 Топ-5 способов использовать мобильные прокси для бизнеса: подробный обзор 
22:08 Накрутка поисковых подсказок 
05:04 Точные прогнозы на футбол 
14:01 Union Pharm - топовая фарма-партнерка для профессионалов! 
10:59 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди