Вопрос по robots.txt

Сообщений: 204 Регистрация: Мар 2011

10 Августа 2013 01:39

Уважаемые, подскажите правильное содержание данного файла. Вот сейчас увидел строчку

Disallow: /images/

Это означает что поисковики не индексируют картинки на моем сайте, или я ошибаюсь?
И еще вопрос, так же там строка

Disallow: /components/

,но в индексе Яши несколько тысяч неверных документов вида

/component/jcomments/

/component/jcomments/feed/

/component/jcomments/feed/com_content/

/component/search/?Itemid=

Откуда он их берет, если папки component вообще нет? Как удалить кучу этих ссылок из поисковика? прописать Disallow: /component/ для несуществующей папки?

Вообще разъясните, а то совсем запутался((

Изменено: breaker26 - 10 Августа 2013 01:40

WSairus

Сообщений: 1432 Регистрация: Июн 2010

10 Августа 2013 02:22

Держи, бро:

Код

User-agent: *
Disallow: /administrator/
Disallow: /cache/
Disallow: /cli/
Disallow: /components/
Disallow: /component/search/
Disallow: /component/content/
#Здесь по аналогии добавь названия других используемых компонентов, например jcomments
#или используй (хотя я так делать не рекомендую) Disallow: /component/
Disallow: /includes/
Disallow: /installation/
Disallow: /language/
Disallow: /libraries/
Disallow: /logs/
Disallow: /media/
Disallow: /modules/
Disallow: /plugins/
Disallow: /templates/
Disallow: /tmp/
Disallow: /*rss.html
Disallow: /*atom.html
#Фиды вообще отключать нужно, а то сайт сольют
Host: site.ru
#Замени на свой сайт

Sitemap: http://site.ru/index.php?option=com_xmap&view=xml&tmpl=component&id=1
#Замени на свой сайт и подставь адрес sitemap. У меня это компонент xmap

Про images момент спорный. В Joomla индексация изображений по умолчанию запрещена, однако если ее разрешить полезного трафика много не будет. В большинстве с картинок приходят те, кто хочет что-то спи... А component это не папка, это url доступа к помпонентам, оно редиректится на нужные файлы, нужно закрывать от индексации. И мои коменты удалить не забудь.

Партнёрки для заработка!

breaker26

Сообщений: 204 Регистрация: Мар 2011

10 Августа 2013 02:41

Цитата
WSairus пишет: Держи, бро:

СПС ОГРОМНЕЙШЕЕ! сейчас вот еще такой момент узрел((( , т.е. index.php тоже блокировать надо?

Рисунок

WSairus

Сообщений: 1432 Регистрация: Июн 2010

10 Августа 2013 02:59

А у Вас ЧПУ в Joomla включен? Если да (адреса вида site.ru/category/123-article) то можно добавить

Код
Disallow: /index.php?

Если ЧПУ выключен и адреса вида site.ru/index.php?хз=непомнюдальше то этого делать нельзя.

Лично я с такой проблемой не сталкивался.

Новые темы	Объявления	Свободное общение
19:33 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 17:02 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 15:12 Несколько статей хорошо выдаются в Гугле, но отвратительно в Яндексе 13:40 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 11:41 2Index - быстрая индексация страниц сайта и обратных ссылок 09:56 3snet - гемблинг, беттинг, форекс, бинарные опционы, майнинг 23:00 Продвижение по ключам	03:51 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 00:23 CryptoGraph — Анонимный обмен криптовалют без KYC и AML 20:20 Продвижение сайтов 15:49 Продажа аккаунтов HH.RU 15:12 Продам аккаунты Gmail USA IP \| Gmail MIX IP \| Outlook Old 13:55 Современный скрипт обменника электронных валют 13:06 AlwaysMoney - платформа для обмена криптовалют	20:43 Добро пожаловать в цифровой мир... 15:59 Про мясо 23:09 ПП от PMS remote.team - 200$ за команду 13:28 Компьютерная мышь 22:55 Ну что, кто куда деваете свои сайты? 22:34 Используете беспроводные наушники? 22:26 Какой фильм посмотреть сегодня вечером?

Новые темы

Объявления

Свободное общение

19:33 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options
17:02 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу.
15:12 Несколько статей хорошо выдаются в Гугле, но отвратительно в Яндексе
13:40 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика!
11:41 2Index - быстрая индексация страниц сайта и обратных ссылок
09:56 3snet - гемблинг, беттинг, форекс, бинарные опционы, майнинг
23:00 Продвижение по ключам

03:51 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка
00:23 CryptoGraph — Анонимный обмен криптовалют без KYC и AML
20:20 Продвижение сайтов
15:49 Продажа аккаунтов HH.RU
15:12 Продам аккаунты Gmail USA IP | Gmail MIX IP | Outlook Old
13:55 Современный скрипт обменника электронных валют
13:06 AlwaysMoney - платформа для обмена криптовалют

20:43 Добро пожаловать в цифровой мир...
15:59 Про мясо
23:09 ПП от PMS remote.team - 200$ за команду
13:28 Компьютерная мышь
22:55 Ну что, кто куда деваете свои сайты?
22:34 Используете беспроводные наушники?
22:26 Какой фильм посмотреть сегодня вечером?

07.05.2015 19:15	Вопрос по joomla перенос на сервер с базой с другого сервера
06.05.2015 07:02	Вопрос профи в создании шаблонов на Joomla
05.12.2014 20:39	Robots для джумлы
20.10.2014 19:18	важные вопросы по joomla 3.3.3
14.09.2014 19:50	Вопрос про Mod News Pro GK4