Проблема с фидом
Страницы: 1
Проблема с фидом
Всем привет, как исправить ошибку, чтобы feed индексировался роботом. Сейчас[COLOR=#1a1a1a] при обращении робота на странице сайта с feed, сервер возвращает ему заголовок X-Robots-Tag: noindex, follow, который запрещает роботу индексацию.[/COLOR]
Чтобы оживить тему, опубликую наугад, а там, глядишь, кто-то путное скажет)

Чтобы исправить ошибку и разрешить индексировать feed, нужно изменить заголовок X-Robots-Tag.

Возможные способы решения:

1. В настройках веб-сервера (Apache, Nginx)
Если сервер Apache, проверьте конфигурацию .htaccess или основной конфиг (httpd.conf). Найдите строку, где указано:
Код
<FilesMatch "feed">
    Header set X-Robots-Tag "noindex, follow"
</FilesMatch>

Исправьте на:
Код
<FilesMatch "feed">
    Header set X-Robots-Tag "index, follow"
</FilesMatch>

Или полностью удалите это правило.

Если сервер Nginx, проверьте конфигурацию (обычно nginx.conf):
Код
location /feed {
    add_header X-Robots-Tag "noindex, follow";
}

Исправьте на:
Код
location /feed {
    add_header X-Robots-Tag "index, follow";
}

Перезапустите сервер после изменений:
Код
systemctl restart apache2  # Для Apache
systemctl restart nginx    # Для Nginx

2. В настройках CMS (если используете WordPress, Joomla, Drupal и др.)
В WordPress:
1. Зайдите в Настройки → Чтение.
2. Убедитесь, что "Поисковым системам не разрешено индексировать сайт" не включено.
3. Проверьте Yoast SEO или другие SEO-плагины, нет ли там правил noindex для /feed.

В Joomla:
Проверьте настройки Global Configuration → SEO Settings, нет ли запрета на индексацию RSS.

3. В robots.txt
Хотя robots.txt не управляет X-Robots-Tag, убедитесь, что там нет строки:
Код
Disallow: /feed/

Если есть — удалите или замените на:
Код
Allow: /feed/

4. В коде сайта (если X-Robots-Tag передается через PHP)
В файле header.php или контроллере генерации feed найдите строку:
Код
header("X-Robots-Tag: noindex, follow", true);

Исправьте на:
Код
header("X-Robots-Tag: index, follow", true);

Как проверить результат?
После внесения изменений проверьте, какие заголовки возвращает сервер:
Код
curl -I https://example.com/feed

Должно быть:
Код
X-Robots-Tag: index, follow

Также можно проверить в Google Search Console или через https://www.google.com/webmasters/tools/googlebot-fetch.

После исправления может потребоваться некоторое время, чтобы поисковые роботы снова проиндексировали feed.
спасибо большое, буду щас разбираться
Цитата
Vova Vova пишет:
спасибо большое, буду щас разбираться

Пожалуйста. Отпишите потом, что из этого вышло.
Не претендую на правильность. Надеюсь, кто-то отпишется, кто в этом хорошо разбирается.
Цитата
Prapovednik пишет:
X-Robots-Tag
В хедере строки не было, долго мучался искал. В итоге думаю дайка зайду в плагин all-in-one-seo-pack, и правда, там почему-то запрет был, стоял ноиндекс, поставил на индекс. Путь: wp-content/plugins/all-in-one-seo-pack/app/Common/Meta/Robots.php . Должно работать исправно, завтра точно скажу.
Vova Vova, благодарю, что делитесь в теме.
да, работает хорошо все индексируется, сори не написал сразу
Цитата
Vova Vova пишет:
да, работает хорошо все индексируется, сори не написал сразу

Отлично. Спасибо, что отписались.
Страницы: 1
Похожие темы:
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)
Новые темыОбъявленияСвободное общение
15:29 OpenAI и шейхи: Цензура на продажу и "гибкие" идеалы амеров 
13:26 Как безопасно купить Гугл почту? 
11:17 ЕС душит ТикТок: прощай бесконечная лента и RPM? Что с монетизацией? 
11:12 Гугл пухнет от кеша, а нам - крошки. Разбор $114 млрд: Адсенс в минусе, Ютуб на подписках 
11:05 01.02. Апдейт 31.01 // Chrome готовит "чёрную метку" для ИИ? 
10:59 WB и Ozon - новые "русские поисковики"? Яндекс теряет коммерческую выдачу 
01:09 Yahoo Scout: Нейро-привет из склепа. Реальный шанс на траф или мимо? 
16:31 JustProxy.Biz - Резидентные прокси без ограничения по трафику 
15:39 Создам под вашу нишу сетку сайтов-сателлитов для привлечения целевого трафика 
15:31 Вериф аккаунты АВИТО + платежи 
08:58 Мониторинг обменников Сrypto-scout.io 
04:09 Просто $0.04/IP 9PROXY.COM Резидентные прокси Неограниченная пропускная способность Уникальная политика замены Без чёрного списка 
02:31 Профессиональный и грамотный дизайн от DesignCash 
18:27 Nexulume.com Обменник без AML и KYC 
15:21 FIFA и Assassin’s Creed воруют пароли: В репаки зашили лютый стиллер. Чекаем логи 
15:20 Туалетные секреты: Замурчательная тема 
15:20 Кулеры и БП станут золотыми? Медь по 13 штук, олово в космосе 
15:15 ИИ-театр для инвесторов: почему виральные посты в Moltbook писали люди и в чем подвох OpenClaw 
15:13 Сайты Рунета 
08:50 Гильотина для классиков: Клод доедает физические книги 
05:10 Точные прогнозы на футбол