Правельный robots.txt
Страницы: 1
Правельный robots.txt
Здравствуйте! Пытаюсь составить правильный robots.txt, для сайта на ДЛЕ 9.2, друг посоветовал использовать робот такого типа:



Код
User-agent: *
Disallow: /*print
Disallow: /backup/
Disallow: /2012/
Disallow: /tags/
Disallow: /user/
Disallow: /engine/
Disallow: /favorites/
Disallow: /lastnews/
Disallow: /newposts/     
Disallow: /catalog/
Disallow: /statistics.html
Disallow: /rules.html
Disallow: /addnews.html
Disallow: /admin.php
Disallow: /go?*
Disallow: /?do=tags
Disallow: /index.php*
Disallow: /*do=lastcomments
Disallow: /*subaction=userinfo
Disallow: /statistics.html
Disallow: /*subaction=newposts
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /page/

User-agent: Yandex
Disallow: /*print
Disallow: /backup/
Disallow: /2012/
Disallow: /tags/
Disallow: /user/
Disallow: /engine/
Disallow: /favorites/
Disallow: /lastnews/
Disallow: /newposts/     
Disallow: /catalog/
Disallow: /statistics.html
Disallow: /rules.html
Disallow: /addnews.html
Disallow: /admin.php
Disallow: /go?*
Disallow: /?do=tags
Disallow: /index.php*
Disallow: /*do=lastcomments
Disallow: /*subaction=userinfo
Disallow: /statistics.html
Disallow: /*subaction=newposts
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /page/

Sitemap: http:/sit/sitemap.xml
Host: site.net



Что скажете? smile:confused:
Идеальный роботс:
Цитата
User-agent: *
Sitemap: http:/sit/sitemap.xml
Host: site.net
Цитата
Дмитрий Димбровский пишет:
Здравствуйте! Пытаюсь составить правильный robots.txt, для сайта на ДЛЕ 9.2, друг посоветовал использовать робот такого типа:
Что скажете? smile:confused:
Вы его сами сделали? Или просто скопировали из предложенных? 
Если Вы скачали стандартный, то не нужно там ни чего щелкать, там уже все настроено, для стандартной работы, все другое подделывайте под себя и свой сайт. 

P.s Стандартные сделаны для скрытия админок, сист. папок и не нужных страниц на всех сайтах. 
Вот тут Вы найдете все о правильном robots.txt, а также по оптимизации дле
Держу сайты здесь, а ты не вздумай!
Цитата
Дмитрий Димбровский пишет:
Disallow: /2012/
Вот это реально странно...
Новый Год - моемся с мочалом - всё начнём сначала?
Изменено: Злой, но Позитивный ЧЕЛовек - 10 Января 2013 10:53
Мы не можем похвастаться мудростью глаз
И умелыми жестами рук,
Нам не нужно все это, чтобы друг друга понять.
Сигареты в руках, чай на столе - так замыкается круг,
И вдруг нам становится страшно что-то менять.
Тут спешил просто...
http:/sit/sitemap.xml
http:/site/sitemap.xml

JOK3R., не первое  и не второе, как я написал в своем сообщении, друг посоветовал.
А вообще по теме кроме етого: Disallow: /2012/
Все нормально?
Изменено: Дмитрий Димбровский - 10 Января 2013 11:03
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
12:22 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
06:06 Яндекс прекращает поддержку технологии Турбо 
05:50 SEO 2025 - контент, уже не главное. Главное - Конечная цель... 
09:03 Нужна помощь советом! 
20:01 Работаем в P2P платежах BYBIT | USDT - RUB , RUB - USDT | Ищем постоянных клиентов , выгодные условия. 
19:04 Gambling Craft - гемблинг по белому 
10:44 AntiBot Cloud - бесплатный скрипт и сервис защиты сайтов 
20:28 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
17:06 - Вечные ссылки с трастовых сайтов 2024 проверен FastTrust 
10:43 SpaceSwap.cc - Быстрый и надежный обменник криптовалют 
10:26 Coin Click.cc - Быстрый и надежный обмен электронных валют в два клика 
04:13 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
14:59 Volna.money 
14:24 WebKazna. Обмены криптовалют. Доставка наличных. 
10:54 Добро пожаловать в цифровой мир... 
00:47 Точные прогнозы на футбол 
22:39 Топ-5 способов использовать мобильные прокси для бизнеса: подробный обзор 
11:58 Куплю проигрышные букмекерские аккаунты 
00:12 Огородники 
10:59 Новости искусственного интеллекта 
04:26 Хром ругается на форум