Google не берет во внимание Robots.txt
Страницы: 1
Google не берет во внимание Robots.txt
Уважаемые, вот возник вопрос такой , у кого еще Гугл не учитывает при индексации сайта файл Robots.txt ?, У меня в Robots написан запрет

Disallow: /user/
Но почему то юзеры есть в поиске , как быть ? что менять?

Файл Robots.txt прикрепляю :

Код
User-agent: Yandex
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /grab.php
Host: treyd.org

Sitemap: http://treyd.org/sitemap.xml

User-agent: *
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /grab.php

Sitemap: <a href=\"http://treyd.org/sitemap.xml\" target=\"_blank\">http://treyd.org/sitemap.xml</a>
Гугл частенько плюет на все запреты. В этом смыле Яша более "законопослушен"...
Глупый пингвин робко прячет, умный - смело достаёт...)
Указание <meta name="robots" content="all" /> имеет больший вес, нежели все запреты в robots.txt.
Уберите и всё должно со-временем нормализоваться.
leon_need,

Мне убрать Фразу all или всю строчку?
Цитата
Михаил пишет:
leon_need,
Мне убрать Фразу all или всю строчку?

Всю сточку долой.
Цитата
Михаил пишет:
Disallow: /grab.php

Интересно, что это за скрипт smile:o
...
а если строчка имеет вид <meta name="robots" content="index, follow"> и тоже лезут в индекс всякие запрещенные гадости ее тоже можно удалить?
Поставьте атрибут nofollow во все ссылки ведущие на профили юзеров, и тогда точно профили в индекс не попадут.
Цитата
abc000 пишет:
Цитата
Михаил пишет:
Disallow: /grab.php

Интересно, что это за скрипт

меня тоже это заинтересовало smile:D
Юрий Кузнецов,

Эт не очень хорошая штучка smile:o
Цитата
leon_need пишет:
Указание <meta name="robots" content="all" /> имеет больший вес, нежели все запреты в robots.txt.
Уберите и всё должно со-временем нормализоваться.


если только заменить на <meta name="robots" content="noindex, nofollow">
=====================================
Проблемы с Wordpress? Решение здесь.
BugFix, это поможет?
email: hjccbz2@bk.ru
ICQ: 628-591-201
А вот у меня обратная проблема с файлом robots.txt к примеру там стоит такая строчка
- Disallow: /*print
предназначена она, что бы запретить индексировать страницы для печати, но вмести с этим попали под запрет все страницы содержащие в название слово print. Может кто знает как этот момент решить
Цитата
11grad11 пишет:
А вот у меня обратная проблема с файлом robots.txt к примеру там стоит такая строчка - Disallow: /*print предназначена она, что бы запретить индексировать страницы для печати, но вмести с этим попали под запрет все страницы содержащие в название слово print. Может кто знает как этот момент решить


Это от того что не стоит в конце строчки слэш. Правильный вид:

Disallow: /*print/
Цитата
Redrik Shuhart пишет:

Это от того что не стоит в конце строчки слэш. Правильный вид:
Disallow: /*print/


Вот спасибо, я так и подозревал, что то тут не так ))))
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
15:19 Refmate — сервис для взаимного обмена ссылками 
13:06 Продвижение по ключам 
09:47 Adsense личный опыт 
13:13 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 
13:47 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
08:27 Ищу специалистов 
08:18 Прибыль 200$ - 400$, за каждую 1000 уников! Google, FB и тд 
01:41 Продам обменник криптовалюты, а также новый обменник под ключ с обучением. Скидки на скрипты обменника 
20:22 Belurk — высокоскоростные анонимные прокси от 0,24 рублей 
18:48 Продажа аккаунтов HH.RU 
17:38 swapsfera.com 
17:30 GoodsMoney.io 
16:25 JustProxy.Biz - Резидентные прокси без ограничения по трафику 
14:43 Рассылки СМС/SMS, Вайбер/Viber, Ватсап/Whatsapp, Телеграм/Telegram любой тематики по всему миру 
17:46 Всего п онемногу 
12:45 Куплю проигрышные букмекерские аккаунты 
11:55 Union Pharm - топовая фарма-партнерка для профессионалов! 
17:09 Точные прогнозы на футбол 
10:00 Ну что, кто куда деваете свои сайты? 
16:22 Компьютерная мышь 
23:55 Добро пожаловать в цифровой мир...