Правильно ли составлен Robots ?

Сообщений: 335 Регистрация: Июн 2010

4 Марта 2012 03:20

User-agent: *
Disallow: /*print
Disallow: /user/
Disallow: /favorites/
Disallow: /cache/
Disallow: /cgi-bin/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /uploads/
Disallow: /backup/
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /?do=lastcomments
Disallow: /statistics.html
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?do=register
Disallow: /index.php?do=feedback
Disallow: /index.php?do=lostpassword
Disallow: /index.php?do=stats
Disallow: /index.php?do=addnews
Disallow: /index.php?subaction=newposts
Sitemap: --

User-agent: Yandex
Disallow: /*print
Disallow: /user/
Disallow: /favorites/
Disallow: /cache/
Disallow: /cgi-bin/
Disallow: /engine/
Disallow: /language/
Disallow: /templates/
Disallow: /uploads/
Disallow: /backup/
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /?do=lastcomments
Disallow: /statistics.html
Disallow: /index.php?do=pm
Disallow: /index.php?do=search
Disallow: /index.php?do=register
Disallow: /index.php?do=feedback
Disallow: /index.php?do=lostpassword
Disallow: /index.php?do=stats
Disallow: /index.php?do=addnews
Disallow: /index.php?subaction=newposts
Sitemap: --
Host: --
ничего лишнего нету?

FreakMurderer

Сообщений: 43 Регистрация: Окт 2011

4 Марта 2012 04:02

Для начала:
Лучше так :

Код
Disallow: /*print:

Не имеет смысла два раза для гугла и яндекса прописывать по полроботса
Лучше :

Код
User-agent: * ***** Sitemap: -- Host: --

А вообще, не лишним будет зайти в инструменты вебмастера Яши и ГУгла и там вручную еще раз проверить..

fobos234

Сообщений: 15 Регистрация: Дек 2011

4 Марта 2012 10:39

можно разве что картинки закрыть, а так можно почитать примеры - http://kapon.com.ua/str1.php

Изменено: fobos234 - 4 Марта 2012 10:46

dimakusch

Сообщений: 335 Регистрация: Июн 2010

4 Марта 2012 14:13

Или такой поставить?

Код

User-agent: *
Disallow: /*print
Disallow: /autobackup.php
Disallow: /admin.php
Disallow: /user/
Disallow: /favorites/
Disallow: /index.php?do=register
Disallow: /?do=lastcomments
Disallow: /statistics.html
Sitemap: http://my-dle-site.ru/sitemap.xml
User-agent: Yandex
Host: my-dle-site.ru

Напишите пожалуйста кто-то правильный робот.тхт для кино сайта. Что нужно оставить,а что убирать.
Буду очень благодарен

dimakusch Сообщений: 335 Регистрация: Июн 2010	#5 4 Марта 2012 14:32 И в вебмастере написано что исключены страницы типа /user/Admin/news/21-klyatva.htmlЭто нормально? 30 страниц исключено

Новые темы	Объявления	Свободное общение
15:15 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 09:21 SEO под нейро 08:53 AntiBot Cloud - бесплатный скрипт и сервис защиты сайтов 07:07 Ночной бар в Паттайе: как случайная встреча с "тайкой" и её кадыком перевернула мой взгляд на продвижение сайта в Google 2026 23:39 Rotapost прикрыли! Чем пользоваться? 10:35 Как Яндекс индексирует ваш сайт? \| АПдейт выдача 8.12.2025 11:11 Операторы поиска Яндекса: FAQ для тех, кто хочет стать мастером поиска	16:34 Сервис смс активаций и аренды мобильных номеров ALISMS 15:26 Продам аккаунты Gmail USA IP \| Gmail MIX IP \| Outlook Old 14:28 Размещу ссылки/статьи на ваш сайт \| Рост ИКС \| XRumer 23.0.4 StrongAI 11:32 Продажа аккаунтов HH.RU 04:24 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 00:14 xpoint.pro - быстрый и надежный криптообменный сервис Xpoint 23:42 SnapSwap.io — быстрый анонимный crypto-to-crypto обмен без регистрации	16:38 NOVA Маркетплейс 08:12 Компьютерная мышь 07:14 Про мясо 22:20 Точные прогнозы на футбол 23:08 С юмором по жизни! 13:08 Бесплатный майнинг Tether (USDT) 16:49 monetizer.agency – рекламная сеть для взрослого и развлекательного трафика. 100$ новому вебмастеру

Новые темы

Объявления

Свободное общение

15:15 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу.
09:21 SEO под нейро
08:53 AntiBot Cloud - бесплатный скрипт и сервис защиты сайтов
07:07 Ночной бар в Паттайе: как случайная встреча с "тайкой" и её кадыком перевернула мой взгляд на продвижение сайта в Google 2026
23:39 Rotapost прикрыли! Чем пользоваться?
10:35 Как Яндекс индексирует ваш сайт? | АПдейт выдача 8.12.2025
11:11 Операторы поиска Яндекса: FAQ для тех, кто хочет стать мастером поиска

16:34 Сервис смс активаций и аренды мобильных номеров ALISMS
15:26 Продам аккаунты Gmail USA IP | Gmail MIX IP | Outlook Old
14:28 Размещу ссылки/статьи на ваш сайт | Рост ИКС | XRumer 23.0.4 StrongAI
11:32 Продажа аккаунтов HH.RU
04:24 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка
00:14 xpoint.pro - быстрый и надежный криптообменный сервис Xpoint
23:42 SnapSwap.io — быстрый анонимный crypto-to-crypto обмен без регистрации

16:38 NOVA Маркетплейс
08:12 Компьютерная мышь
07:14 Про мясо
22:20 Точные прогнозы на футбол
23:08 С юмором по жизни!
13:08 Бесплатный майнинг Tether (USDT)
16:49 monetizer.agency – рекламная сеть для взрослого и развлекательного трафика. 100$ новому вебмастеру

26.06.2019 18:48	Сайт неправильно отдаёт 404
25.10.2017 05:49	Помогите разобраться,как правильно переехать с dle в wordpress
12.01.2017 22:21	Как правильно настроить 301 редирект?
21.11.2016 15:09	Правильно ли составил robots.txt?
09.04.2016 08:05	Правильно ли настроено .htaccess и robots.txt