Google не берет во внимание Robots.txt
Страницы: 1
Google не берет во внимание Robots.txt
Уважаемые, вот возник вопрос такой , у кого еще Гугл не учитывает при индексации сайта файл Robots.txt ?, У меня в Robots написан запрет

Disallow: /user/
Но почему то юзеры есть в поиске , как быть ? что менять?

Файл Robots.txt прикрепляю :

Код
User-agent: Yandex
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /grab.php
Host: treyd.org

Sitemap: http://treyd.org/sitemap.xml

User-agent: *
Disallow: /engine/go.php
Disallow: /user/
Disallow: /newposts/
Disallow: /statistics.html
Disallow: /*subaction=userinfo
Disallow: /*subaction=newposts
Disallow: /*do=lastcomments
Disallow: /*do=feedback
Disallow: /*do=register
Disallow: /*do=lostpassword
Disallow: /*do=addnews
Disallow: /*do=stats
Disallow: /*do=pm
Disallow: /grab.php

Sitemap: <a href=\"http://treyd.org/sitemap.xml\" target=\"_blank\">http://treyd.org/sitemap.xml</a>
Гугл частенько плюет на все запреты. В этом смыле Яша более "законопослушен"...
Глупый пингвин робко прячет, умный - смело достаёт...)
Указание <meta name="robots" content="all" /> имеет больший вес, нежели все запреты в robots.txt.
Уберите и всё должно со-временем нормализоваться.
leon_need,

Мне убрать Фразу all или всю строчку?
Цитата
Михаил пишет:
leon_need,
Мне убрать Фразу all или всю строчку?

Всю сточку долой.
Цитата
Михаил пишет:
Disallow: /grab.php

Интересно, что это за скрипт smile:o
...
а если строчка имеет вид <meta name="robots" content="index, follow"> и тоже лезут в индекс всякие запрещенные гадости ее тоже можно удалить?
Поставьте атрибут nofollow во все ссылки ведущие на профили юзеров, и тогда точно профили в индекс не попадут.
Цитата
abc000 пишет:
Цитата
Михаил пишет:
Disallow: /grab.php

Интересно, что это за скрипт

меня тоже это заинтересовало smile:D
Юрий Кузнецов,

Эт не очень хорошая штучка smile:o
Цитата
leon_need пишет:
Указание <meta name="robots" content="all" /> имеет больший вес, нежели все запреты в robots.txt.
Уберите и всё должно со-временем нормализоваться.


если только заменить на <meta name="robots" content="noindex, nofollow">
=====================================
Проблемы с Wordpress? Решение здесь.
BugFix, это поможет?
email: hjccbz2@bk.ru
ICQ: 628-591-201
А вот у меня обратная проблема с файлом robots.txt к примеру там стоит такая строчка
- Disallow: /*print
предназначена она, что бы запретить индексировать страницы для печати, но вмести с этим попали под запрет все страницы содержащие в название слово print. Может кто знает как этот момент решить
Цитата
11grad11 пишет:
А вот у меня обратная проблема с файлом robots.txt к примеру там стоит такая строчка - Disallow: /*print предназначена она, что бы запретить индексировать страницы для печати, но вмести с этим попали под запрет все страницы содержащие в название слово print. Может кто знает как этот момент решить


Это от того что не стоит в конце строчки слэш. Правильный вид:

Disallow: /*print/
Цитата
Redrik Shuhart пишет:

Это от того что не стоит в конце строчки слэш. Правильный вид:
Disallow: /*print/


Вот спасибо, я так и подозревал, что то тут не так ))))
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
22:32 Gambling Craft - гемблинг по белому 
15:35 Яндекс-ап 20 марта и похороны ChatGPT, Claude и Gemini. Считаем убытки 
14:07 AI под надзором. Минцифры готовят клеймо для контента 
00:12 XEvil - софт для разгадывания капчи. Бесплатная демо-версия. Привязка к SEO/SMM-софту. 
23:11 APK на паузе. Google убивает быстрый конверт 
16:58 MAX попер в бурж: 40 стран, ведение каналов и горы дешевого трафика 
15:38 LOSPOLLOS.COM - Конвертим по рецепту Хайзенберга. Dating, Mainstream, Binary Options 
08:01 HH.ru Работадателя вериф 
01:42 TUNNEL-to-PROXY: превращает тысячи публичных сетевых конфигураций - в стабильные SOCKS5-прокси! 
23:12 [MOBILE 4G/LTE PROXY] Приватные Мобильные Прокси 30 Дней 10$ Безлим/ Подходят для всех сайтов 
22:38 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
21:57 Volna.money 
16:32 Рассылки СМС/SMS, Вайбер/Viber, Ватсап/Whatsapp, Телеграм/Telegram любой тематики по всему миру 
15:49 Европейский эквайринг 
09:32 молодильные яблоки и живая вода 
09:22 Точные прогнозы на футбол 
09:17 Панель Кнопки соцсетей 
18:12 8 марта: желаю аптайма 99.9% и e-e-a-t без локов 
18:11 Чак Норрис ушел - 19 марта 2026, 86 лет, семья подтвердила 
17:28 С юмором по жизни! 
15:29 Компьютерная мышь