Правильный robots.txt
Страницы: 1
Правильный robots.txt
Здравствуйте всем, дайте пожалуйста правельный robotx.txt для dle 9.3.
Спасибо заранее.
smile;)
Я много прочитал литературы по созданию robots.txt, и сделал себе вот такой:

User-agent: *
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html

User-agent: Yandex
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html
Host: bestcwalk.com

User-agent: Googlebot
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html

Sitemap: http://site.ru/sitemap.xml (если ваш сайт проиндексировал робот с www, то дописывать www, если нет то без www)

Конечно можно ограничиться и первым пунктом "User-agent: *", но лучше сделать отдельный для каждого поисковика, таких как Гугл и Яша)))
Спасибо, посмотрим на результат)
Спасибо, и себе взял smile:)
Только забыл сказать за Host: - или так надо? smile;)
Цитата
Андрей Ода пишет:
Только забыл сказать за Host: - или так надо?

Посмотри повнимательней:
Цитата
User-agent: Yandex
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html
Host: bestcwalk.com


я просто разместил его не в конце, его можно размещать в любом месте, робот по любому прочитает его...
Изменено: Влад Скляр - 31 Июля 2011 20:00
Ты забыл сказать что его надо поменять на свой домен
Цитата
Андрей Ода пишет:
Ты забыл сказать что его надо поменять на свой домен

Да тут и так все понятно. Только дурень не поменяет.
Цитата
Андрей Ода пишет:
Ты забыл сказать что его надо поменять на свой домен


Ну вы же не настолько тупой что бы не догадаться что его нужно менять на свой домен! И не забудьте добавить или убрать "www" смотря как ваш сайт проиндексировал Яша...
Ну это кто как? Есть такие даже не смотрят, скопировали и все
Последнее время беда с этими поисковыми системами...
Всегда закрывала сайт от индексации
User-agent: *
Disallow: / #
и ни одна страница в поиске не появлялась месяцами, сколько надо было. А тут, яша сожрал главную, гоша главную и разделы smile:(
Совсем сбрендили...
Цитата
felis_serval пишет:
Последнее время беда с этими поисковыми системами...
Всегда закрывала сайт от индексации
User-agent: *
Disallow: / #
и ни одна страница в поиске не появлялась месяцами, сколько надо было. А тут, яша сожрал главную, гоша главную и разделы
Совсем сбрендили...

Скорее всего Вы не в курсе, что <met a name="robots" content="all" /> имеет приоритет над всеми запретами в robots.txt.
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
15:08 Стоит ли добавлять сайт в Rambler топ 100? 
12:59 Absence в Армении 
19:29 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
17:29 Как продвигать сайт с неуникальным контентом 
14:50 Индексация страниц 
12:36 У кого новостник, дайте пару советов плиз 
13:53 AviTool - мощный инструмент для автоматизации работы с Avito 
17:24 A-Parser 1.1 - продвинутый парсер поисковых систем, Suggest, PR, DMOZ, Whois, etc 
14:01 Продам аккаунты Gmail USA IP | Gmail MIX IP | Outlook Old 
13:15 SOCKS5 приватные прокси на 30 дней для PayPal 
13:14 Google Voice аккаунты для бесплатных SMS и звонков 
13:13 PayPal аккаунты для любых целей 
13:11  
13:03 swapsfera.com 
21:24 Ну что, кто куда деваете свои сайты? 
20:25 Добро пожаловать в цифровой мир... 
19:42 Топ-5 способов использовать мобильные прокси для бизнеса: подробный обзор 
22:08 Накрутка поисковых подсказок 
05:04 Точные прогнозы на футбол 
14:01 Union Pharm - топовая фарма-партнерка для профессионалов! 
10:59 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди