Индексирует мусор
Страницы: 1
Индексирует мусор
Помогите,что не так в robots.txt smile:confused: Индексирует гугл весь хлам.
Можете посмотреть в гугле site:inseklopedia.ru
Кто знает как правильно составить robots.txt? Нашел много статей как правильно составлять robots.txt и везде по разному.А как же правильно?
Подскажите.

Вот мой robots.txt

Цитата
User-agent: *
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Host: inseklopedia.ru
Изменено: reks - 1 Июля 2011 23:50

Бесплатная контекстная реклама

Добавить это

Disallow: /*print
Disallow: /engine/
Disallow: /tags/
Disallow: /2010/
Disallow: /2011/

И убрать
Disallow: /engine/go.php
Если есть материалы за 2009 год, то добавить еще строку
Disallow: /2009/
Спасибо. А почему у меня индексируется профили,восстановления паролей и.т.д. хотя прописаны в файле.
Кто знает,подскажите. smile:(

Цитата
Disallow: /user/
Disallow: /*do=lostpassword
Disallow: /*do=register
Цитата
reks пишет:
Спасибо. А почему у меня индексируется профили,восстановления паролей и.т.д. хотя прописаны в файле.

Потому что эта строчка <met a name="robots" content="all" /> имеет приоритет. И всё, что Вы задаёте в robots.txt не имеет значения при наличии такой строки.
Изменено: leon_need - 2 Июля 2011 09:35
А где её найти?
И её удалить что ли надо,что то я с этим не сталкивался,не знаю.
Подскажите
Изменено: reks - 2 Июля 2011 09:52
reks,
/engine/engine.php открываете, ищите примерно 720 строку (<met a name="robots" content="all" />) и удаляете ее.
Изменено: igoryanzx1 - 2 Июля 2011 16:29
Спасибо нашел smile:sarc:
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
12:47 Нужен совет более опытных вебмастеров, по продвижению сайта кино тематики! 
12:04 Безанкорные ссылки - плагин для Wordpress 
11:44 "ВКонтакте" начинает работу с благотворительными организациями 
11:38 Заходы ботов, вредно ли это для сайта? 
11:24 Апдейт 26 февраля 2017 года 
09:40 Файл robots 
05:38 Накажет ли яндекс за скрытый блок в мобилке? 
11:03 Услуга по поднятию Тиц сайтов. Оплата единоразовая! 
10:47 Размещаю ссылки, постовые, статьи и баннеры. ТИЦ 50 
10:04 SEO продвижение сайтов 2017 
00:52 Продам музыкальный сайт 
23:37 Сбор под Вас уник. тематической базы + прогон Хрумер + Allsubmitter, Повышает трафик, увеличивает ТИЦ, PR. Есть отзывы! 
23:35 Ссылки на сайтах с полезными советами 
21:19 Продам домены для дорвеев или спама 
12:41 2domains совсем обнаглели. Куда свалить? 
12:04 Надо с сервака парсить сайт один с разных IP 
11:16 Госзакупки - продления домена за 100 т.р. 
11:15 Реф. ссылку надо обязательно обойти и зарегистрироваться по прямой! 
10:36 продолжение романа Пелевина поколение "П" 
06:45 отзывы constructiontop100plus.ru / Топ 100 сайтов о строительстве - прям крутотенюшка-крутота!) 
00:49 php обратная связь