Немогу понять что и как прописывать в роботсе, хочу закрыть все лишнее а его очень много, дубли страниц и.т.д.
Вот например было так на прошлом сайте, У гугла проиндексированно 1000 страниц под фильтрами а на самом деле их примерно 50 (статей) роботс был стандартный CMS Dle.
Помогите как и что нужно закрывать и прописывать?
Спасибо заранее.
Вот например было так на прошлом сайте, У гугла проиндексированно 1000 страниц под фильтрами а на самом деле их примерно 50 (статей) роботс был стандартный CMS Dle.
Помогите как и что нужно закрывать и прописывать?
Спасибо заранее.
