Google не берет во внимание Robots.txt
Страницы: 1
Google не берет во внимание Robots.txt
Уважаемые, вот возник вопрос такой , у кого еще Гугл не учитывает при индексации сайта файл Robots.txt ?, У меня в Robots написан запрет

Disallow: /user/
Но почему то юзеры есть в поиске , как быть ? что менять?

Файл Robots.txt прикрепляю :

Код
User-agent: Yandex
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /grab.php
Host: treyd.org

Sitemap: http://treyd.org/sitemap.xml

User-agent: *
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /grab.php

Sitemap: <a href=\"http://treyd.org/sitemap.xml\" target=\"_blank\">http://treyd.org/sitemap.xml</a>
Гугл частенько плюет на все запреты. В этом смыле Яша более "законопослушен"...
Глупый пингвин робко прячет, умный - смело достаёт...)
Указание <meta name="robots" content="all" /> имеет больший вес, нежели все запреты в robots.txt.
Уберите и всё должно со-временем нормализоваться.
leon_need,

Мне убрать Фразу all или всю строчку?
Цитата
Михаил пишет:
leon_need,
Мне убрать Фразу all или всю строчку?

Всю сточку долой.
Цитата
Михаил пишет:
Disallow: /grab.php

Интересно, что это за скрипт smile:o
...
а если строчка имеет вид <meta name="robots" content="index, follow"> и тоже лезут в индекс всякие запрещенные гадости ее тоже можно удалить?
Поставьте атрибут nofollow во все ссылки ведущие на профили юзеров, и тогда точно профили в индекс не попадут.
Цитата
abc000 пишет:
Цитата
Михаил пишет:
Disallow: /grab.php

Интересно, что это за скрипт

меня тоже это заинтересовало smile:D
Юрий Кузнецов,

Эт не очень хорошая штучка smile:o
Цитата
leon_need пишет:
Указание <meta name="robots" content="all" /> имеет больший вес, нежели все запреты в robots.txt.
Уберите и всё должно со-временем нормализоваться.


если только заменить на <meta name="robots" content="noindex, nofollow">
=====================================
Проблемы с Wordpress? Решение здесь.
BugFix, это поможет?
email: hjccbz2@bk.ru
ICQ: 628-591-201
А вот у меня обратная проблема с файлом robots.txt к примеру там стоит такая строчка
- Disallow: /*print
предназначена она, что бы запретить индексировать страницы для печати, но вмести с этим попали под запрет все страницы содержащие в название слово print. Может кто знает как этот момент решить
Цитата
11grad11 пишет:
А вот у меня обратная проблема с файлом robots.txt к примеру там стоит такая строчка - Disallow: /*print предназначена она, что бы запретить индексировать страницы для печати, но вмести с этим попали под запрет все страницы содержащие в название слово print. Может кто знает как этот момент решить


Это от того что не стоит в конце строчки слэш. Правильный вид:

Disallow: /*print/
Цитата
Redrik Shuhart пишет:

Это от того что не стоит в конце строчки слэш. Правильный вид:
Disallow: /*print/


Вот спасибо, я так и подозревал, что то тут не так ))))
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
08:53 Нашел скрины выплат с Сапы за 2010 год. Пошел плакать 
08:14 Трафик пробил дно? Худший январь за 10 лет и внезапный рост продаж с Bing 
08:13 РСЯ и тормоза сайта: Яндекс начал штрафовать за плохой PageSpeed? 
08:04 01.02. Апдейт 31.01 // Chrome готовит "чёрную метку" для ИИ? 
19:27 Плагин ответа 
19:20 SEO под нейро 
19:16 Дзен окончательно всё? Или у кого-то еще «стреляет» белый контент? 
01:56 В топ1 за 3-5 дней НЕПФ 
00:47 Swapwatch.org — Мониторинг криптовалютных обменников 
18:39 SellBuycoin.io - надежный проводник в мир обмена криптовалют на фиат и наличные по РФ! 
17:25 SMS.PRO - площадка для продажи твоих номеров 
16:14 Все услуги в Телеграм 
14:16 Nexulume.com Обменник без AML и KYC 
13:43 Anonflare - Приватные IPv4 прокси от 0.39 USD 
08:06 [AI] Бот за $600к советовал есть сыр с крысами. Нью-Йорк его (наконец-то) снес 
07:11 Список обновленных тем пуст... 
05:23 Точные прогнозы на футбол 
01:02 Ставки на супер тренды в спорте 
15:38 Осталось 3-5 месяцев до блокировки YouTube в России, — заявил Клименко 
17:02 Gartner обещал смерть SEO к 2026 году. Открываем метрику и проверяем 
08:25 Отвратительное поведение