Правельный robots.txt
Страницы: 1
Правельный robots.txt
Здравствуйте! Пытаюсь составить правильный robots.txt, для сайта на ДЛЕ 9.2, друг посоветовал использовать робот такого типа:



Код
User-agent: *
Disallow: /*print
Disallow: /backup/
Disallow: /2012/
Disallow: /tags/
Disallow: /user/
Disallow: /engine/
Disallow: /favorites/
Disallow: /lastnews/
Disallow: /newposts/     
Disallow: /catalog/
Disallow: /statistics.html
Disallow: /rules.html
Disallow: /addnews.html
Disallow: /admin.php
Disallow: /go?*
Disallow: /?do=tags
Disallow: /index.php*
Disallow: /*do=lastcomments
Disallow: /*subaction=userinfo
Disallow: /statistics.html
Disallow: /*subaction=newposts
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /page/

User-agent: Yandex
Disallow: /*print
Disallow: /backup/
Disallow: /2012/
Disallow: /tags/
Disallow: /user/
Disallow: /engine/
Disallow: /favorites/
Disallow: /lastnews/
Disallow: /newposts/     
Disallow: /catalog/
Disallow: /statistics.html
Disallow: /rules.html
Disallow: /addnews.html
Disallow: /admin.php
Disallow: /go?*
Disallow: /?do=tags
Disallow: /index.php*
Disallow: /*do=lastcomments
Disallow: /*subaction=userinfo
Disallow: /statistics.html
Disallow: /*subaction=newposts
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /page/

Sitemap: http:/sit/sitemap.xml
Host: site.net



Что скажете? smile:confused:
Идеальный роботс:
Цитата
User-agent: *
Sitemap: http:/sit/sitemap.xml
Host: site.net
Цитата
Дмитрий Димбровский пишет:
Здравствуйте! Пытаюсь составить правильный robots.txt, для сайта на ДЛЕ 9.2, друг посоветовал использовать робот такого типа:
Что скажете? smile:confused:
Вы его сами сделали? Или просто скопировали из предложенных? 
Если Вы скачали стандартный, то не нужно там ни чего щелкать, там уже все настроено, для стандартной работы, все другое подделывайте под себя и свой сайт. 

P.s Стандартные сделаны для скрытия админок, сист. папок и не нужных страниц на всех сайтах. 
Вот тут Вы найдете все о правильном robots.txt, а также по оптимизации дле
Держу сайты здесь, а ты не вздумай!
Цитата
Дмитрий Димбровский пишет:
Disallow: /2012/
Вот это реально странно...
Новый Год - моемся с мочалом - всё начнём сначала?
Изменено: Злой, но Позитивный ЧЕЛовек - 10 Января 2013 10:53
Мы не можем похвастаться мудростью глаз
И умелыми жестами рук,
Нам не нужно все это, чтобы друг друга понять.
Сигареты в руках, чай на столе - так замыкается круг,
И вдруг нам становится страшно что-то менять.
Тут спешил просто...
http:/sit/sitemap.xml
http:/site/sitemap.xml

JOK3R., не первое  и не второе, как я написал в своем сообщении, друг посоветовал.
А вообще по теме кроме етого: Disallow: /2012/
Все нормально?
Изменено: Дмитрий Димбровский - 10 Января 2013 11:03
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
10:45 Старые кости или свежее мясо? Как нагнуть старичка в серпе за один год 
10:27 Google - шантажист, а Cloudflare - не спаситель. Как не отлететь в бан 
20:18 ЕС душит ТикТок: прощай бесконечная лента и RPM? Что с монетизацией? 
20:14 Гугл пухнет от кеша, а нам - крошки. Разбор $114 млрд: Адсенс в минусе, Ютуб на подписках 
20:11 01.02. Апдейт 31.01 // Chrome готовит "чёрную метку" для ИИ? 
18:53 Кнопки "скрыть" и "пожаловаться" в рекламе яндекса 
15:29 OpenAI и шейхи: Цензура на продажу и "гибкие" идеалы амеров 
09:05 Swapwatch.org — Мониторинг криптовалютных обменников 
08:45 GhostRocket.pro — Взлетаем в новую эру криптообмена! 
04:13 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
00:01 E-currency.exchange — ваш помощник в мире обменов 
23:40 Monitex: Мониторинг с кэшбэком 80% в USDT 
22:35 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
18:41 Веривикация Авито 
09:52 [AI] Бот за $600к советовал есть сыр с крысами. Нью-Йорк его (наконец-то) снес 
03:45 Гильотина для классиков: Клод доедает физические книги 
01:24 Точные прогнозы на футбол 
21:04 Кулеры и БП станут золотыми? Медь по 13 штук, олово в космосе 
19:29 FIFA и Assassin’s Creed воруют пароли: В репаки зашили лютый стиллер. Чекаем логи 
19:24 Туалетные секреты: Замурчательная тема 
19:15 Сайты Рунета