Индексирует мусор
Страницы: 1
Индексирует мусор
Помогите,что не так в robots.txt smile:confused: Индексирует гугл весь хлам.
Можете посмотреть в гугле site:inseklopedia.ru
Кто знает как правильно составить robots.txt? Нашел много статей как правильно составлять robots.txt и везде по разному.А как же правильно?
Подскажите.

Вот мой robots.txt

Цитата
User-agent: *
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Host: inseklopedia.ru
Изменено: reks - 1 Июля 2011 23:50

Бесплатная контекстная реклама

Добавить это

Disallow: /*print
Disallow: /engine/
Disallow: /tags/
Disallow: /2010/
Disallow: /2011/

И убрать
Disallow: /engine/go.php
Если есть материалы за 2009 год, то добавить еще строку
Disallow: /2009/
Спасибо. А почему у меня индексируется профили,восстановления паролей и.т.д. хотя прописаны в файле.
Кто знает,подскажите. smile:(

Цитата
Disallow: /user/
Disallow: /*do=lostpassword
Disallow: /*do=register
Цитата
reks пишет:
Спасибо. А почему у меня индексируется профили,восстановления паролей и.т.д. хотя прописаны в файле.

Потому что эта строчка <met a name="robots" content="all" /> имеет приоритет. И всё, что Вы задаёте в robots.txt не имеет значения при наличии такой строки.
Изменено: leon_need - 2 Июля 2011 09:35
А где её найти?
И её удалить что ли надо,что то я с этим не сталкивался,не знаю.
Подскажите
Изменено: reks - 2 Июля 2011 09:52
reks,
/engine/engine.php открываете, ищите примерно 720 строку (<met a name="robots" content="all" />) и удаляете ее.
Изменено: igoryanzx1 - 2 Июля 2011 16:29
Спасибо нашел smile:sarc:
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
14:28 Ап 24 мая 2017 
14:12 Крауд-маркетинг - отзывы с прокачанных акков 
14:03 Скачивание ФАЙЛА на отдельной странице dle 11,2 
13:18 TradeLeads - партнерка в секторе e-commerce, games и инфо-товарах 
12:27 Стоит ли удалять тег rel=shortlink 
12:16 Подскажите хостинг с нормальной защитой от DDOS 
11:42 Не отправляется заявка на модерацию в Адсенсе 
14:10 Услуги по рассылки спама Вконтакте 
13:42 Живые люди в группу фейсбук (facebook.com). Выбор таргетинга по Странам и Городам 
13:15 Качественные профильные и статейные прогоны хрумером по своим базам! 
10:32 Сервис продажи SSH туннелей 
10:24 Качественный прогон по профилям взятых из Яндекс Вебмастера! 
10:16 Сервис услуг в YouTube, Вконтакте, Instagram, Twitter, Facebook, Одноклассники, Google+ 
10:10 Составление Семантического Ядра для вашего сайта 
14:45 Рыбаки, охотники, Вы где? 
14:41 5 000 руб. 
14:41 Линкбилдинг, как способ привлечения трафика. 
13:26 Переход с https на http 
13:08 Самый лучший город на Земле 
08:43 Видеоролики создает кто? 
23:23 Edupay.ru - партнерская программа по курсам похудения и диетологии.