Правильно ли составлен Robots ?

Сообщений: 335 Регистрация: Июн 2010

4 Марта 2012 03:20

User-agent: *
Disallow: /*print
Disallow: /user/
Disallow: /favorites/
Disallow: /cache/
Disallow: /cgi-bin/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /uploads/
Disallow: /backup/
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /?do=lastcomments
Disallow: /statistics.html
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?do=register
Disallow: /index.php?do=feedback
Disallow: /index.php?do=lostpassword
Disallow: /index.php?do=stats
Disallow: /index.php?do=addnews
Disallow: /index.php?subaction=newposts
Sitemap: --

User-agent: Yandex
Disallow: /*print
Disallow: /user/
Disallow: /favorites/
Disallow: /cache/
Disallow: /cgi-bin/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /uploads/
Disallow: /backup/
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /?do=lastcomments
Disallow: /statistics.html
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?do=register
Disallow: /index.php?do=feedback
Disallow: /index.php?do=lostpassword
Disallow: /index.php?do=stats
Disallow: /index.php?do=addnews
Disallow: /index.php?subaction=newposts
Sitemap: --
Host: --
ничего лишнего нету?

FreakMurderer

Сообщений: 43 Регистрация: Окт 2011

4 Марта 2012 04:02

Для начала:
Лучше так :

Код
Disallow: /*print:

Не имеет смысла два раза для гугла и яндекса прописывать по полроботса
Лучше :

Код
User-agent: * ***** Sitemap: -- Host: --

А вообще, не лишним будет зайти в инструменты вебмастера Яши и ГУгла и там вручную еще раз проверить..

fobos234

Сообщений: 15 Регистрация: Дек 2011

4 Марта 2012 10:39

можно разве что картинки закрыть, а так можно почитать примеры - http://kapon.com.ua/str1.php

Изменено: fobos234 - 4 Марта 2012 10:46

dimakusch

Сообщений: 335 Регистрация: Июн 2010

4 Марта 2012 14:13

Или такой поставить?

Код

User-agent: *
Disallow: /*print
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /user/
Disallow: /favorites/
Disallow: /index.php?do=register
Disallow: /?do=lastcomments
Disallow: /statistics.html
Sitemap: http://my-dle-site.ru/sitemap.xml
User-agent: Yandex
Host: my-dle-site.ru

Напишите пожалуйста кто-то правильный робот.тхт для кино сайта. Что нужно оставить,а что убирать.
Буду очень благодарен

dimakusch Сообщений: 335 Регистрация: Июн 2010	#5 4 Марта 2012 14:32 И в вебмастере написано что исключены страницы типа /user/Admin/news/21-klyatva.htmlЭто нормально? 30 страниц исключено

Новые темы	Объявления	Свободное общение
18:41 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 16:38 Стоит ли добавлять сайт в Rambler топ 100? 17:26 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 09:56 3snet - гемблинг, беттинг, форекс, бинарные опционы, майнинг 12:59 2Index - быстрая индексация страниц сайта и обратных ссылок 10:13 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 23:00 Продвижение по ключам	20:10 Продвижение сайтов в ТОП Яндекса за 2 недели. Рост позиций и трафика. Бесплатный тест. 17:31 GoodsMoney.io 16:59 SellBuycoin.io - надежный проводник в мир обмена криптовалют на фиат и наличные по РФ! 15:32 Q3.Network: 1500+ гемблинг-офферов, нестандартные источники трафика, свои приложения 12:57 PonyBit.ru - обменный пункт PonyBit.ru (Понибит.ру) 04:09 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 18:51 SOCKS5 приватные прокси на 30 дней для PayPal	15:59 Про мясо 23:09 ПП от PMS remote.team - 200$ за команду 13:28 Компьютерная мышь 22:55 Ну что, кто куда деваете свои сайты? 22:34 Используете беспроводные наушники? 22:26 Какой фильм посмотреть сегодня вечером? 17:13 Добро пожаловать в цифровой мир...

Новые темы

Объявления

Свободное общение

18:41 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options
16:38 Стоит ли добавлять сайт в Rambler топ 100?
17:26 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика!
09:56 3snet - гемблинг, беттинг, форекс, бинарные опционы, майнинг
12:59 2Index - быстрая индексация страниц сайта и обратных ссылок
10:13 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу.
23:00 Продвижение по ключам

20:10 Продвижение сайтов в ТОП Яндекса за 2 недели. Рост позиций и трафика. Бесплатный тест.
17:31 GoodsMoney.io
16:59 SellBuycoin.io - надежный проводник в мир обмена криптовалют на фиат и наличные по РФ!
15:32 Q3.Network: 1500+ гемблинг-офферов, нестандартные источники трафика, свои приложения
12:57 PonyBit.ru - обменный пункт PonyBit.ru (Понибит.ру)
04:09 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка
18:51 SOCKS5 приватные прокси на 30 дней для PayPal

15:59 Про мясо
23:09 ПП от PMS remote.team - 200$ за команду
13:28 Компьютерная мышь
22:55 Ну что, кто куда деваете свои сайты?
22:34 Используете беспроводные наушники?
22:26 Какой фильм посмотреть сегодня вечером?
17:13 Добро пожаловать в цифровой мир...

26.06.2019 18:48	Сайт неправильно отдаёт 404
25.10.2017 05:49	Помогите разобраться,как правильно переехать с dle в wordpress
12.01.2017 22:21	Как правильно настроить 301 редирект?
21.11.2016 15:09	Правильно ли составил robots.txt?
09.04.2016 08:05	Правильно ли настроено .htaccess и robots.txt