Помогите настроить правильно robots txt
Страницы: 1
Помогите настроить правильно robots txt
Кто сможет помочь мне настроить правильно robots txt, у меня в поиске более 25000 страниц из них индексируются около 3000 страниц. Все остальное хлам который нужно убирать от поисковиков запретом.
И кто может подсказать чем отличаются  robots txt для движка IPB и IPS?
Вот мой robots txt:
User-agent: *
Disallow: /admin/
Disallow: /cache/
Disallow: /converge_local/
Disallow: /hooks/
Disallow: /ips_kernel/
Disallow: /retail/
Disallow: /public/style_captcha/
Disallow: /index.php?app=core&module=task
Disallow: /index.php?app=core&module=usercp&tab=forums&area=forumsubs
Disallow: /index.php?app=core&module=usercp&tab=forums&area=watch&watch=topic
Disallow: /index.php?app=forums&module=extras§ion=forward
Disallow: /index.php?app=members&module=messaging
Disallow: /index.php?app=members&module=chat
Disallow: /index.php?app=members&module=search
Disallow: /index.php?app=members&module=search&do=active
Disallow: /index.php?app=core&module=search&do=search
Disallow: /index.php?&unlockUserAgent=1
Disallow: /*app=core&module=usercp
Disallow: /*app=core&module=usercp
Disallow: /*app=members&module=messaging
Disallow: /*app=forums&module=extras§ion=stats&do=who
Disallow: /*&p=
Disallow: /*&pid=
Disallow: /*&hl=
Disallow: /*&start=
Disallow: /*view__getnewpost$
Disallow: /*view__getlastpost$
Disallow: /*view__old$
Disallow: /*view__new$
Disallow: /*view__getfirst$
Disallow: /*view__getprevious$
Disallow: /*view__getnext$
Disallow: /*view__getlast$
Disallow: /*&view=getnewpost$
Disallow: /*&view=getlastpost$
Disallow: /*&view=old$
Disallow: /*&view=new$
Disallow: /*&view=getfirst$
Disallow: /*&view=getprevious$
Disallow: /*&view=getnext$
Disallow: /*&view=getlast$
Disallow: /*%2525
Disallow: /*?s=
Disallow: /*&s=
Disallow: /user/
Disallow: /members/
Disallow: /index.php?app=members
Disallow: /index.php?app=core&module=global§ion=login&do=deleteCookies
Disallow: /index.php?app=forums&module=extras§ion=rating
Disallow: /index.php?app=forums&module=forums§ion=markasread
Disallow: /index.php?app=core&module=search&do=search&search_tags=
Sitemap: [URL]https://investmani.ru/sitemap.xml[/URL]
User-agent: Yandex
Disallow: /admin/
Disallow: /cache/
Disallow: /converge_local/
Disallow: /hooks/
Disallow: /ips_kernel/
Disallow: /retail/
Disallow: /public/style_captcha/
Disallow: /index.php?app=core&module=task
Disallow: /index.php?app=core&module=usercp&tab=forums&area=forumsubs
Disallow: /index.php?app=core&module=usercp&tab=forums&area=watch&watch=topic
Disallow: /index.php?app=forums&module=extras§ion=forward
Disallow: /index.php?app=members&module=messaging
Disallow: /index.php?app=members&module=chat
Disallow: /index.php?app=members&module=search
Disallow: /index.php?app=core&module=search&do=search
Disallow: /index.php?app=members&module=search&do=active
Disallow: /index.php?&unlockUserAgent=1
Disallow: /*app=core&module=usercp
Disallow: /*app=core&module=usercp
Disallow: /*app=members&module=messaging
Disallow: /*app=forums&module=extras§ion=stats&do=who
Disallow: /*&p=
Disallow: /*&pid=
Disallow: /*&hl=
Disallow: /*&start=
Disallow: /*view__getnewpost$
Disallow: /*view__getlastpost$
Disallow: /*view__old$
Disallow: /*view__new$
Disallow: /*view__getfirst$
Disallow: /*view__getprevious$
Disallow: /*view__getnext$
Disallow: /*view__getlast$
Disallow: /*&view=getnewpost$
Disallow: /*&view=getlastpost$
Disallow: /*&view=old$
Disallow: /*&view=new$
Disallow: /*&view=getfirst$
Disallow: /*&view=getprevious$
Disallow: /*&view=getnext$
Disallow: /*&view=getlast$
Disallow: /*?s=
Disallow: /*&s=
Disallow: /*%2525
Disallow: /user/
Disallow: /members/
Disallow: /index.php?app=members
Disallow: /index.php?app=core&module=global§ion=login&do=deleteCookies
Disallow: /index.php?app=forums&module=extras§ion=rating
Disallow: /index.php?app=forums&module=forums§ion=markasread
Disallow: /index.php?app=core&module=search&do=search&search_tags=
Host: [URL]https://investmani.ru[/URL]
Sitemap: [URL]https://investmani.ru/sitemap.xml[/URL]
User-agent: Google
Disallow: /admin/
Disallow: /cache/
Disallow: /converge_local/
Disallow: /hooks/
Disallow: /ips_kernel/
Disallow: /retail/
Disallow: /public/style_captcha/
Disallow: /index.php?app=core&module=task
Disallow: /index.php?app=core&module=usercp&tab=forums&area=forumsubs
Disallow: /index.php?app=core&module=usercp&tab=forums&area=watch&watch=topic
Disallow: /index.php?app=forums&module=extras§ion=forward
Disallow: /index.php?app=members&module=messaging
Disallow: /index.php?app=members&module=chat
Disallow: /index.php?app=members&module=search
Disallow: /index.php?app=core&module=search&do=search
Disallow: /index.php?app=members&module=search&do=active
Disallow: /index.php?&unlockUserAgent=1
Disallow: /*app=core&module=usercp
Disallow: /*app=core&module=usercp
Disallow: /*app=members&module=messaging
Disallow: /*app=forums&module=extras§ion=stats&do=who
Disallow: /*&p=
Disallow: /*&pid=
Disallow: /*&hl=
Disallow: /*&start=
Disallow: /*view__getnewpost$
Disallow: /*view__getlastpost$
Disallow: /*view__old$
Disallow: /*view__new$
Disallow: /*view__getfirst$
Disallow: /*view__getprevious$
Disallow: /*view__getnext$
Disallow: /*view__getlast$
Disallow: /*&view=getnewpost$
Disallow: /*&view=getlastpost$
Disallow: /*&view=old$
Disallow: /*&view=new$
Disallow: /*&view=getfirst$
Disallow: /*&view=getprevious$
Disallow: /*&view=getnext$
Disallow: /*&view=getlast$
Disallow: /*?s=
Disallow: /*&s=
Disallow: /*%2525
Disallow: /user/
Disallow: /members/
Disallow: /index.php?app=members
Disallow: /index.php?app=core&module=global§ion=login&do=deleteCookies
Disallow: /index.php?app=forums&module=extras§ion=rating
Disallow: /index.php?app=forums&module=forums§ion=markasread
Disallow: /index.php?app=core&module=search&do=search&search_tags=
Sitemap: [URL]https://investmani.ru/sitemap.xml[/URL]

Прогон по твиттеру, постинг в 1500 аккунтов
Постинг в твиттер аккаунты, для ускорения индексации ваших сайтов, сателлитов, дорвеев.

Ничего себе у вас робот тхт его в пять раз меньше надо делатьsmile:)
Можно объединить некоторые правила, например:
Disallow: /*view__getnewpost$ 
Disallow: /*view__getlastpost$ 
Disallow: /*view__old$ 
Disallow: /*view__new$ 
Disallow: /*view__getfirst$ 
Disallow: /*view__getprevious$ 
Disallow: /*view__getnext$ 
Disallow: /*view__getlast$ 


сократить до:

Disallow: /*view__

если конечно это не затронет нужных страниц.



А по делу, нужно разбираться что хлам, а что не хлам и закрывать все не нужное в роботсе.
Пользуйтесь по возможности мегатегами.Главное отличие:
Роботс- рекомендуемое к выполнению указание
Мета  -  выполняемое
Изменено: Дормедонт Пирюсик - 28 Июня 2017 22:50
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
00:49 Аффилиаты сайта 
00:48 Захват ТОПА выдачи 
20:10 Нет посетителей 
20:07 Монетизируем 100% adult траффика без остатков. 
18:59 Главная пропадает из выдачи, однако яндекс пишет что она там. 
15:10 Adtrafico - Правильная партнёрская сеть под бурж трафик 
00:26 Adsense личный опыт 
05:06 ВК Целевая аудитория в вашу группу/живые реальные пользователи! Не офферы/боты. Без банов и списаний. Гарантия! 
04:12 Напишу для вас тексты 
04:10 Напишу тексты на азартную тематику для бирж ссылок 
01:29 Продам 3 сайта 
00:05 Программы для рассылок, накрутки, продвижения и ведения аккаунтов в skype, instagram, vk, ok, avito, lenta.ru 
22:54 Инвайтинг в сообщество Viber 
22:37 Продам сайты для заработка в Adsense. Можно вместе с аккаунтом. 
03:54 Украсть ворованное. Дилемма. 
13:18 Кидала, Кидок, Кидало 
21:55 Yoast SEO WP 
19:50 Комплексное продвижение в Instagram 
18:59 Услуги по внутренней оптимизации сайтов 
17:35 Слив курса Как получать дополнительно 20 000 рублей в месяц 
11:03 Возможности современных мессенджеров