Вопрос по robots.txt

Сообщений: 204 Регистрация: Мар 2011

10 Августа 2013 01:39

Уважаемые, подскажите правильное содержание данного файла. Вот сейчас увидел строчку

Disallow: /images/

Это означает что поисковики не индексируют картинки на моем сайте, или я ошибаюсь?
И еще вопрос, так же там строка

Disallow: /components/

,но в индексе Яши несколько тысяч неверных документов вида

/component/jcomments/

/component/jcomments/feed/

/component/jcomments/feed/com_content/

/component/search/?Itemid=

Откуда он их берет, если папки component вообще нет? Как удалить кучу этих ссылок из поисковика? прописать Disallow: /component/ для несуществующей папки?

Вообще разъясните, а то совсем запутался((

Изменено: breaker26 - 10 Августа 2013 01:40

WSairus

Сообщений: 1432 Регистрация: Июн 2010

10 Августа 2013 02:22

Держи, бро:

Код

User-agent: *
Disallow: /administrator/
Disallow: /cache/
Disallow: /cli/
Disallow: /components/
Disallow: /component/search/
Disallow: /component/content/
#Здесь по аналогии добавь названия других используемых компонентов, например jcomments
#или используй (хотя я так делать не рекомендую) Disallow: /component/
Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /libraries/
Disallow: /logs/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /*rss.html
Disallow: /*atom.html
#Фиды вообще отключать нужно, а то сайт сольют
Host: site.ru
#Замени на свой сайт

Sitemap: http://site.ru/index.php?option=com_xmap&view=xml&tmpl=component&id=1
#Замени на свой сайт и подставь адрес sitemap. У меня это компонент xmap

Про images момент спорный. В Joomla индексация изображений по умолчанию запрещена, однако если ее разрешить полезного трафика много не будет. В большинстве с картинок приходят те, кто хочет что-то спи... А component это не папка, это url доступа к помпонентам, оно редиректится на нужные файлы, нужно закрывать от индексации. И мои коменты удалить не забудь.

Партнёрки для заработка!

breaker26

Сообщений: 204 Регистрация: Мар 2011

10 Августа 2013 02:41

Цитата
WSairus пишет: Держи, бро:

СПС ОГРОМНЕЙШЕЕ! сейчас вот еще такой момент узрел((( , т.е. index.php тоже блокировать надо?

Рисунок

WSairus

Сообщений: 1432 Регистрация: Июн 2010

10 Августа 2013 02:59

А у Вас ЧПУ в Joomla включен? Если да (адреса вида site.ru/category/123-article) то можно добавить

Код
Disallow: /index.php?

Если ЧПУ выключен и адреса вида site.ru/index.php?хз=непомнюдальше то этого делать нельзя.

Лично я с такой проблемой не сталкивался.

Новые темы	Объявления	Свободное общение
15:08 Стоит ли добавлять сайт в Rambler топ 100? 12:59 Absence в Армении 19:29 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 17:29 Как продвигать сайт с неуникальным контентом 14:50 Индексация страниц 12:36 У кого новостник, дайте пару советов плиз 13:53 AviTool - мощный инструмент для автоматизации работы с Avito	17:24 A-Parser 1.1 - продвинутый парсер поисковых систем, Suggest, PR, DMOZ, Whois, etc 14:01 Продам аккаунты Gmail USA IP \| Gmail MIX IP \| Outlook Old 13:15 SOCKS5 приватные прокси на 30 дней для PayPal 13:14 Google Voice аккаунты для бесплатных SMS и звонков 13:13 PayPal аккаунты для любых целей 13:11 13:03 swapsfera.com	15:27 Ну что, кто куда деваете свои сайты? 15:07 Добро пожаловать в цифровой мир... 19:42 Топ-5 способов использовать мобильные прокси для бизнеса: подробный обзор 22:08 Накрутка поисковых подсказок 05:04 Точные прогнозы на футбол 14:01 Union Pharm - топовая фарма-партнерка для профессионалов! 10:59 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди

Новые темы

Объявления

Свободное общение

15:08 Стоит ли добавлять сайт в Rambler топ 100?
12:59 Absence в Армении
19:29 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика!
17:29 Как продвигать сайт с неуникальным контентом
14:50 Индексация страниц
12:36 У кого новостник, дайте пару советов плиз
13:53 AviTool - мощный инструмент для автоматизации работы с Avito

17:24 A-Parser 1.1 - продвинутый парсер поисковых систем, Suggest, PR, DMOZ, Whois, etc
14:01 Продам аккаунты Gmail USA IP | Gmail MIX IP | Outlook Old
13:15 SOCKS5 приватные прокси на 30 дней для PayPal
13:14 Google Voice аккаунты для бесплатных SMS и звонков
13:13 PayPal аккаунты для любых целей
13:11
13:03 swapsfera.com

15:27 Ну что, кто куда деваете свои сайты?
15:07 Добро пожаловать в цифровой мир...
19:42 Топ-5 способов использовать мобильные прокси для бизнеса: подробный обзор
22:08 Накрутка поисковых подсказок
05:04 Точные прогнозы на футбол
14:01 Union Pharm - топовая фарма-партнерка для профессионалов!
10:59 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди

07.05.2015 19:15	Вопрос по joomla перенос на сервер с базой с другого сервера
06.05.2015 07:02	Вопрос профи в создании шаблонов на Joomla
05.12.2014 20:39	Robots для джумлы
20.10.2014 19:18	важные вопросы по joomla 3.3.3
14.09.2014 19:50	Вопрос про Mod News Pro GK4