Индексирует мусор
Страницы: 1
Индексирует мусор
Помогите,что не так в robots.txt smile:confused: Индексирует гугл весь хлам.
Можете посмотреть в гугле site:inseklopedia.ru
Кто знает как правильно составить robots.txt? Нашел много статей как правильно составлять robots.txt и везде по разному.А как же правильно?
Подскажите.

Вот мой robots.txt

Цитата
User-agent: *
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Host: inseklopedia.ru
Изменено: reks - 1 Июля 2011 23:50

Бесплатная контекстная реклама

Добавить это

Disallow: /*print
Disallow: /engine/
Disallow: /tags/
Disallow: /2010/
Disallow: /2011/

И убрать
Disallow: /engine/go.php
Если есть материалы за 2009 год, то добавить еще строку
Disallow: /2009/
Спасибо. А почему у меня индексируется профили,восстановления паролей и.т.д. хотя прописаны в файле.
Кто знает,подскажите. smile:(

Цитата
Disallow: /user/
Disallow: /*do=lostpassword
Disallow: /*do=register
Цитата
reks пишет:
Спасибо. А почему у меня индексируется профили,восстановления паролей и.т.д. хотя прописаны в файле.

Потому что эта строчка <met a name="robots" content="all" /> имеет приоритет. И всё, что Вы задаёте в robots.txt не имеет значения при наличии такой строки.
Изменено: leon_need - 2 Июля 2011 09:35
А где её найти?
И её удалить что ли надо,что то я с этим не сталкивался,не знаю.
Подскажите
Изменено: reks - 2 Июля 2011 09:52
reks,
/engine/engine.php открываете, ищите примерно 720 строку (<met a name="robots" content="all" />) и удаляете ее.
Изменено: igoryanzx1 - 2 Июля 2011 16:29
Спасибо нашел smile:sarc:
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
12:28 10 самых влиятельных факторов ранжирования 
12:16 Апдейт Яндекса 09.12.2016 
11:14 BinPartner-партнерская программа бинарных опционов 
11:12 Не открывается teasernet.com 
09:40 Смена адреса админ панели WordPress 
08:50 Апдейт Яндекса 07.12.2016 
08:29 Страницы интернет магазина 
12:03 Качественный прогон Хрумером всего 10 WMZ 
11:20 Сайт об уголовной статье с примерами 
10:16 Продам хороший, доходный сайт с ТИЦ 40 
09:56 Услуги по Рассылка спама Вконтакте и в Одноклассниках 
09:34 Приведу живых участников к Вам в группу ВК от 1.5 р. за участника 
09:12 Продам свою личную лицензию на AllSubmitter. Срочно! 
07:58 Размещаю ссылки, постовые, статьи и баннеры. ТИЦ 50 
11:38 Что будет если? 
11:33 Про счетчики 
11:02 Изменения барного тИЦ замечены 2016-12-08 00:38:03 
10:51 Нужно ли закрывать рекламные блоки? 
10:28 Uber запретил заниматься сексом во время поездки 
09:36 В Нидерландах беспроводной интернет признали базовой потребностью человека 
09:28 Роскомнадзор отвел Google три месяца