Google не берет во внимание Robots.txt
Страницы: 1
Google не берет во внимание Robots.txt
Уважаемые, вот возник вопрос такой , у кого еще Гугл не учитывает при индексации сайта файл Robots.txt ?, У меня в Robots написан запрет

Disallow: /user/
Но почему то юзеры есть в поиске , как быть ? что менять?

Файл Robots.txt прикрепляю :

Код
User-agent: Yandex
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /grab.php
Host: treyd.org

Sitemap: http://treyd.org/sitemap.xml

User-agent: *
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /grab.php

Sitemap: <a href=\"http://treyd.org/sitemap.xml\" target=\"_blank\">http://treyd.org/sitemap.xml</a>
Гугл частенько плюет на все запреты. В этом смыле Яша более "законопослушен"...
Глупый пингвин робко прячет, умный - смело достаёт...)
Указание <meta name="robots" content="all" /> имеет больший вес, нежели все запреты в robots.txt.
Уберите и всё должно со-временем нормализоваться.
leon_need,

Мне убрать Фразу all или всю строчку?
Цитата
Михаил пишет:
leon_need,
Мне убрать Фразу all или всю строчку?

Всю сточку долой.
Цитата
Михаил пишет:
Disallow: /grab.php

Интересно, что это за скрипт smile:o
...
а если строчка имеет вид <meta name="robots" content="index, follow"> и тоже лезут в индекс всякие запрещенные гадости ее тоже можно удалить?
Поставьте атрибут nofollow во все ссылки ведущие на профили юзеров, и тогда точно профили в индекс не попадут.
Цитата
abc000 пишет:
Цитата
Михаил пишет:
Disallow: /grab.php

Интересно, что это за скрипт

меня тоже это заинтересовало smile:D
Юрий Кузнецов,

Эт не очень хорошая штучка smile:o
Цитата
leon_need пишет:
Указание <meta name="robots" content="all" /> имеет больший вес, нежели все запреты в robots.txt.
Уберите и всё должно со-временем нормализоваться.


если только заменить на <meta name="robots" content="noindex, nofollow">
=====================================
Проблемы с Wordpress? Решение здесь.
BugFix, это поможет?
email: hjccbz2@bk.ru
ICQ: 628-591-201
А вот у меня обратная проблема с файлом robots.txt к примеру там стоит такая строчка
- Disallow: /*print
предназначена она, что бы запретить индексировать страницы для печати, но вмести с этим попали под запрет все страницы содержащие в название слово print. Может кто знает как этот момент решить
Цитата
11grad11 пишет:
А вот у меня обратная проблема с файлом robots.txt к примеру там стоит такая строчка - Disallow: /*print предназначена она, что бы запретить индексировать страницы для печати, но вмести с этим попали под запрет все страницы содержащие в название слово print. Может кто знает как этот момент решить


Это от того что не стоит в конце строчки слэш. Правильный вид:

Disallow: /*print/
Цитата
Redrik Shuhart пишет:

Это от того что не стоит в конце строчки слэш. Правильный вид:
Disallow: /*print/


Вот спасибо, я так и подозревал, что то тут не так ))))
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
09:57 3snet - гемблинг, беттинг, форекс, бинарные опционы, майнинг 
19:33 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 
17:02 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
15:12 Несколько статей хорошо выдаются в Гугле, но отвратительно в Яндексе 
13:40 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
11:41 2Index - быстрая индексация страниц сайта и обратных ссылок 
23:00 Продвижение по ключам 
13:32 TokenTrade — Ваш новый надежный обменник 
11:17 Oblaka.in — Обмен криптовалюты быстро, выгодно и безопасно 
20:45 SnapSwap.io — мгновенный обмен BTC, XMR, ETH, USDT и других криптовалют без регистрации! 
18:11 Clearex.io - Больше чем обменник 
16:04 Продам базу данных предприятий Украины, России, Великобритании, Германии, Испании, Италии, Нидерландов, Польши, Франции, Швейцарии и др. 
13:46 Продвижение сайтов в ТОП Яндекса за 2 недели. Рост позиций и трафика. Бесплатный тест. 
12:28 BIGPROXY.SHOP - Резидентные Ротационные Backconnect Proxy USA EUROPA MIX [Безлимитный трафик] 
16:49 monetizer.agency – рекламная сеть для взрослого и развлекательного трафика. 100$ новому вебмастеру 
20:43 Добро пожаловать в цифровой мир... 
15:59 Про мясо 
23:09 ПП от PMS remote.team - 200$ за команду 
13:28 Компьютерная мышь 
22:55 Ну что, кто куда деваете свои сайты? 
22:34 Используете беспроводные наушники?