А для кого/чего собственно создается роботс?
Страницы: 1
А для кого/чего собственно создается роботс?, гугл кладет больт на роботс
Есть небольшой раздельчик на сайте, который не вписывается в концепцию сайта и закрыт в роботс. Все как-то руки не доходят его удалить. Когда-то спамил где попало ссылки на страницу раздела и теперь есть трафик 1-2 посетителя неизвестно откуда. Седня смотрю в серчконсоль - закрытая от индекса страница нен-нет да и показывается гошей и висит сообщение мол ошибка сканирования, страница закрыта в роботсе, но мы всеравно ее проиндексировали, исправьте роботс!
Вот как это понимать? Гоша сам создает инструкции для закрытия страниц от индекса и сам же кладет на них болт! И что интересно, не могу понять откуда переходы, вебвизор показывает прямые заходы.
Так-то мелочь, но бесит!
Робота есть рекомендательная инструкция.

Закрывайте в мета.
Тоже в этом плане Гугл бесит, пихает все без разбора, а потом сам же и жалуетсяsmile:). Можно также через консоль ее удалить/скрыть.
Цитата
Сергей пишет:
пихает все без разбора, а потом сам же и жалуется
Шурыгина чёт вспомнилась...
Мы не можем похвастаться мудростью глаз
И умелыми жестами рук,
Нам не нужно все это, чтобы друг друга понять.
Сигареты в руках, чай на столе - так замыкается круг,
И вдруг нам становится страшно что-то менять.
Цитата
Eye пишет:
Шурыгина чёт вспомнилась...

Ахаха, тонко)
Цитата
Сергей пишет:
Тоже в этом плане Гугл бесит, пихает все без разбора, а потом сам же и жалуетсяsmile:). Можно также через консоль ее удалить/скрыть.
Странно, у меня ничего не вылазит (если запрещаю, то не индексится) smile:D
Почему завистники всегда чем-то огорчены? Потому что их снедают не только собственные неудачи, но и успехи других.
Если сайт в гугле на переобход ставите гугло бот определится как пользователь с прямым заходом, со 100% отказом
Авиабилеты дешево https://avia-avia.ru. | Аренда Серверов Дешево https://clck.ru/afhGc Выделенные СЕРВЕРЫ - БЕСПЛАТНЫЕ плюшки https://clck.ru/YhkZe 🖧 / / Хостинг от 6руб в день! https://clck.ru/Rk2P5 Хостинг - Скидки при оплате за год
Ну для кого яндекс важнее то и роботс соответственно
К сожалению, даже в справке гугла есть пункт, "Если на страницу заходят/ссылаются, то даже закрытие в роботс не гаранитрует не попадание в индекс". На моей памяти миниум 3 случая, когда приходилось позже удалять urls из выдачи, с помощтю инструмена гугл.
А что если метатегами закрывать индекс?  через тот же донбот, вроде как одно из лучших решений.
Метатеги да, пока еще работают, боты ПС боятся их как черт ладана. smile:sarc:
Робот не часто выплывает
Ахаха, [FONT=Tahoma, Arial, Helvetica, sans-serif]Это очень весело[/FONT]
Вот тут есть информация по запрету на индексирование страниц - https://www.pandoge.com/stati_i_sovety/udalyaem-stranicu-ili-razdel-sayta-s-poiska-google
Самый быстрый хостинг на SSD. Месяц в подарок. Поддержка 24/7. Помощь в переезде.

Передовое сообщество вебмастеров. Тебе к нам!
Артем Малков, Вас, по всей видимости, Coder покусал... smile:D Он тут несколько лет спамил своим сайтом в каждой теме, теперь Вы эстафету переняли? smile:cool:
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
21:47 Группа в фейсбуке 
21:00 Perfect.Studio: InstAccountsManager — лучший инструмент для автоматизации заработка в Instagram 
18:59 Стоит ли добавлять сайт в Rambler топ 100? 
21:54 Turbobit.net - Официальная тема, Costaction ПП 
20:58 Webvork - международная товарная СРА сеть с сертифицированными офферами на Европу. 
20:11 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
15:14 Adtrafico - Правильная партнёрская сеть под бурж трафик 
19:04 Антидетект браузер GoLogin для мультиаккаунтинга 
15:23 Обмен/Ввод/Вывод криптовалют и электронных денег в разных странах 
13:43 Ural-obmen.ru — выгодный сервис обмена 
12:59 Obama.ru - безопасный обмен криптовалют и электронных денежных средств 
12:49 [PRIVATE MOBILE PROXY][8 стран][тест всем][скидки внутри] 
11:46 Написание текста по вашему ТЗ 
00:08 Мобильные прокси для софта 
02:18 Россия может запустить «национальную криптобиржу» 
11:58 Курс доллара упал ниже 85 рублей 
21:31 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди 
20:10 Подтягиваем физкультурку 
11:31 37 противникам прививок от COVID грозят уголовные дела 
10:32 Илон Маск показал, как обезьяна с чипом "телепатической печати" попросила угощение 
10:31 Еврокомиссия пригрозила Twitter санкциями за "российскую пропаганду"