Проблема с фидом
Страницы: 1
Проблема с фидом
Всем привет, как исправить ошибку, чтобы feed индексировался роботом. Сейчас[COLOR=#1a1a1a] при обращении робота на странице сайта с feed, сервер возвращает ему заголовок X-Robots-Tag: noindex, follow, который запрещает роботу индексацию.[/COLOR]
Чтобы оживить тему, опубликую наугад, а там, глядишь, кто-то путное скажет)

Чтобы исправить ошибку и разрешить индексировать feed, нужно изменить заголовок X-Robots-Tag.

Возможные способы решения:

1. В настройках веб-сервера (Apache, Nginx)
Если сервер Apache, проверьте конфигурацию .htaccess или основной конфиг (httpd.conf). Найдите строку, где указано:
Код
<FilesMatch "feed">
    Header set X-Robots-Tag "noindex, follow"
</FilesMatch>

Исправьте на:
Код
<FilesMatch "feed">
    Header set X-Robots-Tag "index, follow"
</FilesMatch>

Или полностью удалите это правило.

Если сервер Nginx, проверьте конфигурацию (обычно nginx.conf):
Код
location /feed {
    add_header X-Robots-Tag "noindex, follow";
}

Исправьте на:
Код
location /feed {
    add_header X-Robots-Tag "index, follow";
}

Перезапустите сервер после изменений:
Код
systemctl restart apache2  # Для Apache
systemctl restart nginx    # Для Nginx

2. В настройках CMS (если используете WordPress, Joomla, Drupal и др.)
В WordPress:
1. Зайдите в Настройки → Чтение.
2. Убедитесь, что "Поисковым системам не разрешено индексировать сайт" не включено.
3. Проверьте Yoast SEO или другие SEO-плагины, нет ли там правил noindex для /feed.

В Joomla:
Проверьте настройки Global Configuration → SEO Settings, нет ли запрета на индексацию RSS.

3. В robots.txt
Хотя robots.txt не управляет X-Robots-Tag, убедитесь, что там нет строки:
Код
Disallow: /feed/

Если есть — удалите или замените на:
Код
Allow: /feed/

4. В коде сайта (если X-Robots-Tag передается через PHP)
В файле header.php или контроллере генерации feed найдите строку:
Код
header("X-Robots-Tag: noindex, follow", true);

Исправьте на:
Код
header("X-Robots-Tag: index, follow", true);

Как проверить результат?
После внесения изменений проверьте, какие заголовки возвращает сервер:
Код
curl -I https://example.com/feed

Должно быть:
Код
X-Robots-Tag: index, follow

Также можно проверить в Google Search Console или через https://www.google.com/webmasters/tools/googlebot-fetch.

После исправления может потребоваться некоторое время, чтобы поисковые роботы снова проиндексировали feed.
спасибо большое, буду щас разбираться
Цитата
Vova Vova пишет:
спасибо большое, буду щас разбираться

Пожалуйста. Отпишите потом, что из этого вышло.
Не претендую на правильность. Надеюсь, кто-то отпишется, кто в этом хорошо разбирается.
Цитата
Prapovednik пишет:
X-Robots-Tag
В хедере строки не было, долго мучался искал. В итоге думаю дайка зайду в плагин all-in-one-seo-pack, и правда, там почему-то запрет был, стоял ноиндекс, поставил на индекс. Путь: wp-content/plugins/all-in-one-seo-pack/app/Common/Meta/Robots.php . Должно работать исправно, завтра точно скажу.
Vova Vova, благодарю, что делитесь в теме.
да, работает хорошо все индексируется, сори не написал сразу
Цитата
Vova Vova пишет:
да, работает хорошо все индексируется, сори не написал сразу

Отлично. Спасибо, что отписались.
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
02:17 Как продвигать сайт с неуникальным контентом 
15:08 Стоит ли добавлять сайт в Rambler топ 100? 
12:59 Absence в Армении 
19:29 Dao.AD: Монетизация и покупка Push/Pops/Inpage и Video трафика! 
14:50 Индексация страниц 
12:36 У кого новостник, дайте пару советов плиз 
13:53 AviTool - мощный инструмент для автоматизации работы с Avito 
01:31 Скрипт обменника валют 
21:59 Продам копию сайта. 
21:44 BestX24 - быстрый и безопасный обменник криптовалют и электронных денежных средств 
17:24 A-Parser 1.1 - продвинутый парсер поисковых систем, Suggest, PR, DMOZ, Whois, etc 
14:01 Продам аккаунты Gmail USA IP | Gmail MIX IP | Outlook Old 
13:15 SOCKS5 приватные прокси на 30 дней для PayPal 
13:14 Google Voice аккаунты для бесплатных SMS и звонков 
22:09 Добро пожаловать в цифровой мир... 
21:28 Ну что, кто куда деваете свои сайты? 
19:42 Топ-5 способов использовать мобильные прокси для бизнеса: подробный обзор 
22:08 Накрутка поисковых подсказок 
05:04 Точные прогнозы на футбол 
14:01 Union Pharm - топовая фарма-партнерка для профессионалов! 
10:59 Ням-ням! - 8 деликатесов, которые когда-то ели только бедные люди