Это верный robots.txt на DLE?
Страницы: 1
Это верный robots.txt на DLE?
Вот подскажите, верный ли это robots.txt на DLE? Особенно интересует строка
Цитата

Disallow: /newposts/

Код
User-agent: *
Disallow: /engine/go.php
Disallow: /engine/download.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*do=search

User-agent: Yandex
Disallow: /engine/go.php
Disallow: /engine/download.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /*do=search

Host: *******.ru
Sitemap: http://*******.ru/sitemap.xml
 
Изменено: Олег Контент - 23 Августа 2014 18:49
Наполню Ваш сайт контентом недорого! - пишите в личку.
так правильней
Код
Disallow: /engine/go.php
Disallow: /engine/download.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /favorites/
Disallow: /lastnews/
Disallow: /catalog/
Disallow: /*page/
Disallow: /*print
Disallow: /addnews.html
Disallow: /rules.html
Disallow: /dle-rules-page.html
Disallow: /engine/ajax/
Disallow: /*?*
Disallow: /admin
Цитата
SynyAlex пишет:
так правильней
Код
 Disallow: /engine/go.php
Disallow: /engine/download.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /favorites/
Disallow: /lastnews/
Disallow: /catalog/
Disallow: /*page/
Disallow: /*print
Disallow: /addnews.html
Disallow: /rules.html
Disallow: /dle-rules-page.html
Disallow: /engine/ajax/
Disallow: /*?*
Disallow: /admin 
Не хочу никого оскорблять, но так неправильный.

А вообще, надо знать какие настройки сайта и цели веб-мастера, и от этого отталкиваться составляя роботс.текст.
И еще, существует более правильный способ закрытия от индексации страниц сайта, и при таком раскладе сам роботс.текст будет менее забит запретами и все правильно будет работать.
в поиске наберите алаев - роботс и все встанет на свои места
ЗАРАБАТЫВАЮ ПО МАКСИМАЛЬНОМУ НА ЛЮБОМ ТРАФЕ Тут
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
09:57 3snet - гемблинг, беттинг, форекс, бинарные опционы, майнинг 
19:33 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 
17:02 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
15:12 Несколько статей хорошо выдаются в Гугле, но отвратительно в Яндексе 
13:40 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
11:41 2Index - быстрая индексация страниц сайта и обратных ссылок 
23:00 Продвижение по ключам 
12:12 SellBuycoin.io - надежный проводник в мир обмена криптовалют на фиат и наличные по РФ! 
10:24 Linken Sphere – браузер-антидетект нового поколения 
04:03 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
19:55 JustProxy.Biz - Резидентные прокси без ограничения по трафику 
15:41 - Вечные ссылки с трастовых сайтов 2024 проверен FastTrust 
13:32 TokenTrade — Ваш новый надежный обменник 
11:17 Oblaka.in — Обмен криптовалюты быстро, выгодно и безопасно 
16:49 monetizer.agency – рекламная сеть для взрослого и развлекательного трафика. 100$ новому вебмастеру 
20:43 Добро пожаловать в цифровой мир... 
15:59 Про мясо 
23:09 ПП от PMS remote.team - 200$ за команду 
13:28 Компьютерная мышь 
22:55 Ну что, кто куда деваете свои сайты? 
22:34 Используете беспроводные наушники?