Правильный robots.txt
Страницы: 1
Правильный robots.txt
Здравствуйте всем, дайте пожалуйста правельный robotx.txt для dle 9.3.
Спасибо заранее.
smile;)
Я много прочитал литературы по созданию robots.txt, и сделал себе вот такой:

User-agent: *
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html

User-agent: Yandex
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html
Host: bestcwalk.com

User-agent: Googlebot
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html

Sitemap: http://site.ru/sitemap.xml (если ваш сайт проиндексировал робот с www, то дописывать www, если нет то без www)

Конечно можно ограничиться и первым пунктом "User-agent: *", но лучше сделать отдельный для каждого поисковика, таких как Гугл и Яша)))
Спасибо, посмотрим на результат)
Спасибо, и себе взял smile:)
Только забыл сказать за Host: - или так надо? smile;)
Цитата
Андрей Ода пишет:
Только забыл сказать за Host: - или так надо?

Посмотри повнимательней:
Цитата
User-agent: Yandex
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html
Host: bestcwalk.com


я просто разместил его не в конце, его можно размещать в любом месте, робот по любому прочитает его...
Изменено: Влад Скляр - 31 Июля 2011 20:00
Ты забыл сказать что его надо поменять на свой домен
Цитата
Андрей Ода пишет:
Ты забыл сказать что его надо поменять на свой домен

Да тут и так все понятно. Только дурень не поменяет.
Цитата
Андрей Ода пишет:
Ты забыл сказать что его надо поменять на свой домен


Ну вы же не настолько тупой что бы не догадаться что его нужно менять на свой домен! И не забудьте добавить или убрать "www" смотря как ваш сайт проиндексировал Яша...
Ну это кто как? Есть такие даже не смотрят, скопировали и все
Последнее время беда с этими поисковыми системами...
Всегда закрывала сайт от индексации
User-agent: *
Disallow: / #
и ни одна страница в поиске не появлялась месяцами, сколько надо было. А тут, яша сожрал главную, гоша главную и разделы smile:(
Совсем сбрендили...
Цитата
felis_serval пишет:
Последнее время беда с этими поисковыми системами...
Всегда закрывала сайт от индексации
User-agent: *
Disallow: / #
и ни одна страница в поиске не появлялась месяцами, сколько надо было. А тут, яша сожрал главную, гоша главную и разделы
Совсем сбрендили...

Скорее всего Вы не в курсе, что <met a name="robots" content="all" /> имеет приоритет над всеми запретами в robots.txt.
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
21:39 Подскажите где продвигать сайт. 
10:57 3snet - гемблинг, беттинг, форекс, бинарные опционы, майнинг 
19:12 Мошенники-копирайтеры 
08:57 Индексация страниц 
23:16 Есть ли альтернатива Адсенсу и РСЯ? 
20:48 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
18:53 Настройка плагина для wordpress Price Shop 
04:12 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
01:28 4money.me—сервис для быстрого и удобного обмена криптовалют 
22:38 BTCPro24 - автоматический обменник криптовалют 
21:38 WebKazna. Обмены криптовалют. Доставка наличных. 
19:49 CashFlow.best Ваш удобный обменник! 
15:47 QuixEmail - сервис по аренде email для активаций. 
15:39 Cryptonet.pro - быстрый и надежный обмен электронных валют! 
10:26 Новости искусственного интеллекта 
04:26 Хром ругается на форум 
03:49 Точные прогнозы на футбол 
18:41 С юмором по жизни! 
14:22 SENDERSEX.COM - Тизерная партнёрка онлайн игры Эротические Фанты Онлайн 
20:32 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди 
09:37 Договорные матчи от ИИ