Правильно ли составлен Robots ?

Сообщений: 335 Регистрация: Июн 2010

4 Марта 2012 03:20

User-agent: *
Disallow: /*print
Disallow: /user/
Disallow: /favorites/
Disallow: /cache/
Disallow: /cgi-bin/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /uploads/
Disallow: /backup/
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /?do=lastcomments
Disallow: /statistics.html
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?do=register
Disallow: /index.php?do=feedback
Disallow: /index.php?do=lostpassword
Disallow: /index.php?do=stats
Disallow: /index.php?do=addnews
Disallow: /index.php?subaction=newposts
Sitemap: --

User-agent: Yandex
Disallow: /*print
Disallow: /user/
Disallow: /favorites/
Disallow: /cache/
Disallow: /cgi-bin/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /uploads/
Disallow: /backup/
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /?do=lastcomments
Disallow: /statistics.html
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?do=register
Disallow: /index.php?do=feedback
Disallow: /index.php?do=lostpassword
Disallow: /index.php?do=stats
Disallow: /index.php?do=addnews
Disallow: /index.php?subaction=newposts
Sitemap: --
Host: --
ничего лишнего нету?

FreakMurderer

Сообщений: 43 Регистрация: Окт 2011

4 Марта 2012 04:02

Для начала:
Лучше так :

Код
Disallow: /*print:

Не имеет смысла два раза для гугла и яндекса прописывать по полроботса
Лучше :

Код
User-agent: * ***** Sitemap: -- Host: --

А вообще, не лишним будет зайти в инструменты вебмастера Яши и ГУгла и там вручную еще раз проверить..

fobos234

Сообщений: 15 Регистрация: Дек 2011

4 Марта 2012 10:39

можно разве что картинки закрыть, а так можно почитать примеры - http://kapon.com.ua/str1.php

Изменено: fobos234 - 4 Марта 2012 10:46

dimakusch

Сообщений: 335 Регистрация: Июн 2010

4 Марта 2012 14:13

Или такой поставить?

Код

User-agent: *
Disallow: /*print
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /user/
Disallow: /favorites/
Disallow: /index.php?do=register
Disallow: /?do=lastcomments
Disallow: /statistics.html
Sitemap: http://my-dle-site.ru/sitemap.xml
User-agent: Yandex
Host: my-dle-site.ru

Напишите пожалуйста кто-то правильный робот.тхт для кино сайта. Что нужно оставить,а что убирать.
Буду очень благодарен

dimakusch Сообщений: 335 Регистрация: Июн 2010	#5 4 Марта 2012 14:32 И в вебмастере написано что исключены страницы типа /user/Admin/news/21-klyatva.htmlЭто нормально? 30 страниц исключено

Новые темы	Объявления	Свободное общение
07:32 AI под надзором. Минцифры готовят клеймо для контента 23:53 Выбор CMS для первого блога в 2026 - реально ли новичку войти без кода? 22:30 MAX попер в бурж: 40 стран, ведение каналов и горы дешевого трафика 22:21 Слипание слов в блоке 22:13 Гугл запустил Первый АПдейт года и серп уже трясёт - Google March 2026 Core Update 22:05 С чего сейчас проще начать? 21:57 Яндекс Нейро и выдача в 2026 - остались ли лазейки для маленьких сайтов?	00:05 TETChange-Обменник криптовалют 22:39 Создам под вашу нишу сетку сайтов-сателлитов для привлечения целевого трафика 22:17 Продам домен translated.ru 21:00 Portfel.cc - современный помощник в Ваших финансовых операциях. 19:29 Proxy SOCKS5/HTTP(S) : Резидентские-$1.5/GB \| Мобильные-$2/GB \| Datacenter-$1/GB \| PREMIUM-$4 /GB 15:05 Mixmasters - Exchange without AML and KYC 13:11 SpeedyIndex - ускорение индексирования ссылок в Google. 100 ссылок в подарок.	23:08 Голландцы влепили Grok по яйцам - теперь нельзя раздевать реальных людей, штраф 100к евро в день 18:49 Чак Норрис ушел - 19 марта 2026, 86 лет, семья подтвердила 17:05 Огородники 13:41 8 марта: желаю аптайма 99.9% и e-e-a-t без локов 13:02 С юмором по жизни! 05:10 Точные прогнозы на футбол 16:47 Какой фильм вы любите посмотреть перед сном?

Новые темы

Объявления

Свободное общение

07:32 AI под надзором. Минцифры готовят клеймо для контента
23:53 Выбор CMS для первого блога в 2026 - реально ли новичку войти без кода?
22:30 MAX попер в бурж: 40 стран, ведение каналов и горы дешевого трафика
22:21 Слипание слов в блоке
22:13 Гугл запустил Первый АПдейт года и серп уже трясёт - Google March 2026 Core Update
22:05 С чего сейчас проще начать?
21:57 Яндекс Нейро и выдача в 2026 - остались ли лазейки для маленьких сайтов?

00:05 TETChange-Обменник криптовалют
22:39 Создам под вашу нишу сетку сайтов-сателлитов для привлечения целевого трафика
22:17 Продам домен translated.ru
21:00 Portfel.cc - современный помощник в Ваших финансовых операциях.
19:29 Proxy SOCKS5/HTTP(S) : Резидентские-$1.5/GB | Мобильные-$2/GB | Datacenter-$1/GB | PREMIUM-$4 /GB
15:05 Mixmasters - Exchange without AML and KYC
13:11 SpeedyIndex - ускорение индексирования ссылок в Google. 100 ссылок в подарок.

23:08 Голландцы влепили Grok по яйцам - теперь нельзя раздевать реальных людей, штраф 100к евро в день
18:49 Чак Норрис ушел - 19 марта 2026, 86 лет, семья подтвердила
17:05 Огородники
13:41 8 марта: желаю аптайма 99.9% и e-e-a-t без локов
13:02 С юмором по жизни!
05:10 Точные прогнозы на футбол
16:47 Какой фильм вы любите посмотреть перед сном?

26.06.2019 18:48	Сайт неправильно отдаёт 404
25.10.2017 05:49	Помогите разобраться,как правильно переехать с dle в wordpress
12.01.2017 22:21	Как правильно настроить 301 редирект?
21.11.2016 15:09	Правильно ли составил robots.txt?
09.04.2016 08:05	Правильно ли настроено .htaccess и robots.txt