Как настроить robots.txt с ограничением индексирования всех страниц, кроме главной?
Страницы: 1
Как настроить robots.txt с ограничением индексирования всех страниц, кроме главной?
Мое почтение, ребята! smile:)
Возникла сложность с настройкой роботс.тхт smile:confused: - необходимо, чтобы все страницы кроме "главной" не попадали в индекс ПС. Кто нибудь знает, как это правильно настраивается?

Благодарю!
User-agent: *
Allow: www.mysite.ru
Disallow: /
# запрещает скачивать все, кроме страницы www.mysite.ru
Sitemap: mysite.ru/my_sitemap.xml
Host: www.myhost.ru
Crawl-delay: 4 # задает таймаут в 4 секунды


В теории так, но я сам не делал полного запрета и подобного не встречал
Цитата
Юрий Петров пишет:
User-agent: *
Allow: www.mysite.ru
Disallow: /
# запрещает скачивать все, кроме страницы www.mysite.ru
Sitemap: mysite.ru/my_sitemap.xml
Host: www.myhost.ru
Crawl-delay: 4 # задает таймаут в 4 секунды


В теории так, но я сам не делал полного запрета и подобного не встречал
Юрий, благодарю Вас! smile:) Если Ваш вариант настройки окажется рабочим, то я отпишу здесь.
А зачем сайту, у которого все станицы, кроме главной не должны индексироваться Sitemap? smile:confused:
Лучшая тизерка для рекламодателей и вебмастеров!
Цитата
Иван Заморян пишет:
А зачем сайту, у которого все станицы, кроме главной не должны индексироваться Sitemap? smile:confused:
На сайте вся информация загружается из одного модального окна с морды сайта, когда юзер осуществляет подбор предложений. Все внутренние странички скрыты от юзера и ПС, так как там нет контента, кроме заголовков и полей. Сайт для арбитража и не хочется, чтобы вся таксономия и ноды с не уник контентом не попали в индекс. Вот такие дела...
Изменено: Александр Головинов - 20 Июля 2013 18:39
Цитата
Иван Заморян пишет:
А зачем сайту, у которого все станицы, кроме главной не должны индексироваться Sitemap? smile:confused:
Символически, чтоб добавить карту в ПС))
... по привычке прописал просто, думаю не помещает)
Страницы: 1
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
00:02 Как безопасно купить Гугл почту? 
23:28 че по ПФ щас реально работает?? (кроме старья) 
23:26 [AI] Qwen3-Max Thinking: Алибаба подвинула DeepSeek и Gemini? 
22:47 29.01. Апдейт: Шторм // Вчера отдали 3% с оборота? 
22:46 Продвижение-2022: Гугл все? Нет – Гугл не все! 
10:40 Дзен окончательно всё? Или у кого-то еще «стреляет» белый контент? 
07:58 Нашел скрины выплат с Сапы за 2010 год. Пошел плакать 
04:11 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
23:03 SOCKS5 приватные прокси на 30 дней для PayPal 
23:02 Google Voice аккаунты для бесплатных SMS и звонков 
23:02 PayPal аккаунты для любых целей 
16:44 CryptoMonitor.info - ваш надеждный обменник BTC USDT XMR (без KYC) 
14:38 CryptoGraph — Анонимный обмен криптовалют без KYC и AML 
13:32 Мониторинг обменников Сrypto-scout.io 
23:24 Осталось 3-5 месяцев до блокировки YouTube в России, — заявил Клименко 
22:57 Gartner обещал смерть SEO к 2026 году. Открываем метрику и проверяем 
06:57 блокировка youtube 2026: ркн начинает «выдавливание». кто уже пробовал вк видео? 
15:18 Win 10: Три месяца без обновлений. Как полёт? // Переезд на Win 11 или Linux 
16:25 Подтягиваем физкультурку 
08:18 Тренера "Сочи" обвинили, что он рулил через ChatGPT. Игрокам предложили не спать 28 часов 
08:09 Владельцы "китайцев" 3-леток, признавайтесь честно — сгнили или едут?