Правильный robots.txt
Страницы: 1
Правильный robots.txt
Здравствуйте всем, дайте пожалуйста правельный robotx.txt для dle 9.3.
Спасибо заранее.
smile;)
Я много прочитал литературы по созданию robots.txt, и сделал себе вот такой:

User-agent: *
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html

User-agent: Yandex
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html
Host: bestcwalk.com

User-agent: Googlebot
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html

Sitemap: http://site.ru/sitemap.xml (если ваш сайт проиндексировал робот с www, то дописывать www, если нет то без www)

Конечно можно ограничиться и первым пунктом "User-agent: *", но лучше сделать отдельный для каждого поисковика, таких как Гугл и Яша)))
Спасибо, посмотрим на результат)
Спасибо, и себе взял smile:)
Только забыл сказать за Host: - или так надо? smile;)
Цитата
Андрей Ода пишет:
Только забыл сказать за Host: - или так надо?

Посмотри повнимательней:
Цитата
User-agent: Yandex
Disallow: /engine/download.php
Disallow: /engine/go.php
Disallow: /user/
Disallow: /to/?
Disallow: /newposts/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /upgrade/
Disallow: /favorites/
Disallow: /tags/
Disallow: /*page/
Disallow: /page/
Disallow: /2010/
Disallow: /2011/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*print
Disallow: /*userinfo
Disallow: /index.php?subaction=userinfo
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?subaction=newposts
Disallow: /index.php?do=rules
Disallow: /rules.html
Host: bestcwalk.com


я просто разместил его не в конце, его можно размещать в любом месте, робот по любому прочитает его...
Изменено: Влад Скляр - 31 Июля 2011 20:00
Ты забыл сказать что его надо поменять на свой домен
Цитата
Андрей Ода пишет:
Ты забыл сказать что его надо поменять на свой домен

Да тут и так все понятно. Только дурень не поменяет.
Цитата
Андрей Ода пишет:
Ты забыл сказать что его надо поменять на свой домен


Ну вы же не настолько тупой что бы не догадаться что его нужно менять на свой домен! И не забудьте добавить или убрать "www" смотря как ваш сайт проиндексировал Яша...
Ну это кто как? Есть такие даже не смотрят, скопировали и все
Последнее время беда с этими поисковыми системами...
Всегда закрывала сайт от индексации
User-agent: *
Disallow: / #
и ни одна страница в поиске не появлялась месяцами, сколько надо было. А тут, яша сожрал главную, гоша главную и разделы smile:(
Совсем сбрендили...
Цитата
felis_serval пишет:
Последнее время беда с этими поисковыми системами...
Всегда закрывала сайт от индексации
User-agent: *
Disallow: / #
и ни одна страница в поиске не появлялась месяцами, сколько надо было. А тут, яша сожрал главную, гоша главную и разделы
Совсем сбрендили...

Скорее всего Вы не в курсе, что <met a name="robots" content="all" /> имеет приоритет над всеми запретами в robots.txt.
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
18:44 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 
13:43 Стоит ли добавлять сайт в Rambler топ 100? 
13:12 Покупные ссылки 
12:57 Rotapost прикрыли! Чем пользоваться? 
15:12 Ночной бар в Паттайе: как случайная встреча с "тайкой" и её кадыком перевернула мой взгляд на продвижение сайта в Google 2026 
15:01 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
07:24 3snet - гемблинг, беттинг, форекс, бинарные опционы, майнинг 
23:37 Продажа горячих лидов и готовых баз для финансовых проектов, брокеров и чарджбэк-компаний. 
22:59 SnapSwap.io — мгновенный обмен BTC, XMR, ETH, USDT и других криптовалют без регистрации! 
21:50 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
14:47 CryptoMonitor.info - ваш надеждный обменник BTC USDT XMR (без KYC) 
12:40 Mixmasters - Exchange without AML and KYC 
11:11 CryptoGraph — Анонимный обмен криптовалют без KYC и AML 
10:44 PonyBit.ru - обменный пункт PonyBit.ru (Понибит.ру) 
22:59 Про мясо 
15:07 Добро пожаловать в цифровой мир... 
22:12 BYTIK.shop – сервис по продвижению в популярных социальных сетях​ 
10:10 накрутка трафика в SimilarWeb 
16:50 Компьютерная мышь 
22:11 С юмором по жизни! 
23:03 Точные прогнозы на футбол