Помогите настроить правильно robots txt
Страницы: 1
Помогите настроить правильно robots txt
Кто сможет помочь мне настроить правильно robots txt, у меня в поиске более 25000 страниц из них индексируются около 3000 страниц. Все остальное хлам который нужно убирать от поисковиков запретом.
И кто может подсказать чем отличаются  robots txt для движка IPB и IPS?
Вот мой robots txt:
User-agent: *
Disallow: /admin/
Disallow: /cache/
Disallow: /converge_local/
Disallow: /hooks/
Disallow: /ips_kernel/
Disallow: /retail/
Disallow: /public/style_captcha/
Disallow: /index.php?app=core&module=task
Disallow: /index.php?app=core&module=usercp&tab=forums&area=forumsubs
Disallow: /index.php?app=core&module=usercp&tab=forums&area=watch&watch=topic
Disallow: /index.php?app=forums&module=extras§ion=forward
Disallow: /index.php?app=members&module=messaging
Disallow: /index.php?app=members&module=chat
Disallow: /index.php?app=members&module=search
Disallow: /index.php?app=members&module=search&do=active
Disallow: /index.php?app=core&module=search&do=search
Disallow: /index.php?&unlockUserAgent=1
Disallow: /*app=core&module=usercp
Disallow: /*app=core&module=usercp
Disallow: /*app=members&module=messaging
Disallow: /*app=forums&module=extras§ion=stats&do=who
Disallow: /*&p=
Disallow: /*&pid=
Disallow: /*&hl=
Disallow: /*&start=
Disallow: /*view__getnewpost$
Disallow: /*view__getlastpost$
Disallow: /*view__old$
Disallow: /*view__new$
Disallow: /*view__getfirst$
Disallow: /*view__getprevious$
Disallow: /*view__getnext$
Disallow: /*view__getlast$
Disallow: /*&view=getnewpost$
Disallow: /*&view=getlastpost$
Disallow: /*&view=old$
Disallow: /*&view=new$
Disallow: /*&view=getfirst$
Disallow: /*&view=getprevious$
Disallow: /*&view=getnext$
Disallow: /*&view=getlast$
Disallow: /*%2525
Disallow: /*?s=
Disallow: /*&s=
Disallow: /user/
Disallow: /members/
Disallow: /index.php?app=members
Disallow: /index.php?app=core&module=global§ion=login&do=deleteCookies
Disallow: /index.php?app=forums&module=extras§ion=rating
Disallow: /index.php?app=forums&module=forums§ion=markasread
Disallow: /index.php?app=core&module=search&do=search&search_tags=
Sitemap: [URL]https://investmani.ru/sitemap.xml[/URL]
User-agent: Yandex
Disallow: /admin/
Disallow: /cache/
Disallow: /converge_local/
Disallow: /hooks/
Disallow: /ips_kernel/
Disallow: /retail/
Disallow: /public/style_captcha/
Disallow: /index.php?app=core&module=task
Disallow: /index.php?app=core&module=usercp&tab=forums&area=forumsubs
Disallow: /index.php?app=core&module=usercp&tab=forums&area=watch&watch=topic
Disallow: /index.php?app=forums&module=extras§ion=forward
Disallow: /index.php?app=members&module=messaging
Disallow: /index.php?app=members&module=chat
Disallow: /index.php?app=members&module=search
Disallow: /index.php?app=core&module=search&do=search
Disallow: /index.php?app=members&module=search&do=active
Disallow: /index.php?&unlockUserAgent=1
Disallow: /*app=core&module=usercp
Disallow: /*app=core&module=usercp
Disallow: /*app=members&module=messaging
Disallow: /*app=forums&module=extras§ion=stats&do=who
Disallow: /*&p=
Disallow: /*&pid=
Disallow: /*&hl=
Disallow: /*&start=
Disallow: /*view__getnewpost$
Disallow: /*view__getlastpost$
Disallow: /*view__old$
Disallow: /*view__new$
Disallow: /*view__getfirst$
Disallow: /*view__getprevious$
Disallow: /*view__getnext$
Disallow: /*view__getlast$
Disallow: /*&view=getnewpost$
Disallow: /*&view=getlastpost$
Disallow: /*&view=old$
Disallow: /*&view=new$
Disallow: /*&view=getfirst$
Disallow: /*&view=getprevious$
Disallow: /*&view=getnext$
Disallow: /*&view=getlast$
Disallow: /*?s=
Disallow: /*&s=
Disallow: /*%2525
Disallow: /user/
Disallow: /members/
Disallow: /index.php?app=members
Disallow: /index.php?app=core&module=global§ion=login&do=deleteCookies
Disallow: /index.php?app=forums&module=extras§ion=rating
Disallow: /index.php?app=forums&module=forums§ion=markasread
Disallow: /index.php?app=core&module=search&do=search&search_tags=
Host: [URL]https://investmani.ru[/URL]
Sitemap: [URL]https://investmani.ru/sitemap.xml[/URL]
User-agent: Google
Disallow: /admin/
Disallow: /cache/
Disallow: /converge_local/
Disallow: /hooks/
Disallow: /ips_kernel/
Disallow: /retail/
Disallow: /public/style_captcha/
Disallow: /index.php?app=core&module=task
Disallow: /index.php?app=core&module=usercp&tab=forums&area=forumsubs
Disallow: /index.php?app=core&module=usercp&tab=forums&area=watch&watch=topic
Disallow: /index.php?app=forums&module=extras§ion=forward
Disallow: /index.php?app=members&module=messaging
Disallow: /index.php?app=members&module=chat
Disallow: /index.php?app=members&module=search
Disallow: /index.php?app=core&module=search&do=search
Disallow: /index.php?app=members&module=search&do=active
Disallow: /index.php?&unlockUserAgent=1
Disallow: /*app=core&module=usercp
Disallow: /*app=core&module=usercp
Disallow: /*app=members&module=messaging
Disallow: /*app=forums&module=extras§ion=stats&do=who
Disallow: /*&p=
Disallow: /*&pid=
Disallow: /*&hl=
Disallow: /*&start=
Disallow: /*view__getnewpost$
Disallow: /*view__getlastpost$
Disallow: /*view__old$
Disallow: /*view__new$
Disallow: /*view__getfirst$
Disallow: /*view__getprevious$
Disallow: /*view__getnext$
Disallow: /*view__getlast$
Disallow: /*&view=getnewpost$
Disallow: /*&view=getlastpost$
Disallow: /*&view=old$
Disallow: /*&view=new$
Disallow: /*&view=getfirst$
Disallow: /*&view=getprevious$
Disallow: /*&view=getnext$
Disallow: /*&view=getlast$
Disallow: /*?s=
Disallow: /*&s=
Disallow: /*%2525
Disallow: /user/
Disallow: /members/
Disallow: /index.php?app=members
Disallow: /index.php?app=core&module=global§ion=login&do=deleteCookies
Disallow: /index.php?app=forums&module=extras§ion=rating
Disallow: /index.php?app=forums&module=forums§ion=markasread
Disallow: /index.php?app=core&module=search&do=search&search_tags=
Sitemap: [URL]https://investmani.ru/sitemap.xml[/URL]

Бесплатная контекстная реклама

Ничего себе у вас робот тхт его в пять раз меньше надо делатьsmile:)
Можно объединить некоторые правила, например:
Disallow: /*view__getnewpost$ 
Disallow: /*view__getlastpost$ 
Disallow: /*view__old$ 
Disallow: /*view__new$ 
Disallow: /*view__getfirst$ 
Disallow: /*view__getprevious$ 
Disallow: /*view__getnext$ 
Disallow: /*view__getlast$ 


сократить до:

Disallow: /*view__

если конечно это не затронет нужных страниц.



А по делу, нужно разбираться что хлам, а что не хлам и закрывать все не нужное в роботсе.
Пользуйтесь по возможности мегатегами.Главное отличие:
Роботс- рекомендуемое к выполнению указание
Мета  -  выполняемое
Изменено: Дормедонт Пирюсик - 28 Июня 2017 22:50
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
01:11 YMYL фильтр от Goggle. Как побороть пакость? 
23:49 Превышении допустимой нагрузки на сервер 
19:57 Непонятные страницы в Яндекс вебмастер 
19:40 Вирусный плагин background-image-cropper (Вордпресс) и файл accesson.php Помогите избавиться 
18:57 CPA.RU - партнерская сеть с офферами самых различных направлений 
17:16 "Вега" — большое обновление поиска более месяца спустя 
17:09 Обновление поисковой базы 2020-04-06 
04:47 Размножение статей качественно 
04:47 Мастер шаблона размножения статей + Ручной синонимизатор-рерайтер 
04:37 CMS Base Shop - базы доменов на любоых CMS с ежедневными обновлениями 
21:16 Размещу анкорные Трастовые ссылки на ваш сайт с ИКС от 10. 
20:45 "Пакет Вебмастера" практически за копейки! Успей! 
19:29 AvReger - программа для создания аккаунтов авито 
19:16 Продам домены с возрастом дёшево 
18:02 [b]Webvork [/b]- международная товарная СРА сеть с сертифицированными офферами на Европу. 
11:53 Жестко стал тормозить интернет последнюю неделю 
10:48 Ваш сайт блокируют гос органы? Есть решение! 
21:38 Чего ожидать от рубля с долларом? и скажется ли это на онлайн заработке? 
18:00 БЕСПЛАТНАЯ помощь по созданию киносайта на DLE 
12:11 Конкурс статей XRumer 2020 
14:42 Что с трафиком?