Индексация

Robots.txt: закрываем служебное, не ломаем индекс

Robots.txt нужен для управления обходом, но им нельзя прятать важные посадочные и ресурсы, необходимые для рендера.

Закрывайте admin, api, search, thank-you и мусорные параметры.

Не закрывайте услуги, кейсы, блог, CSS, JS и изображения, нужные для страницы.

Укажите sitemap и Clean-param для Яндекса, если есть мусорные параметры.

Если на странице стоит noindex, робот должен иметь возможность ее увидеть.

Короткий чек-лист

Как применить материал к своему сайту

Статья полезна не сама по себе, а как чек-лист для конкретной страницы или группы URL. Возьмите один раздел сайта, проверьте его по пунктам и зафиксируйте решение: усилить, объединить, закрыть от индекса, перенаправить или оставить без изменений.

Для бизнеса

Станет понятнее, какую проблему обсуждать с подрядчиком и какой результат требовать на выходе.

Для SEO

Материал можно превратить в список проверок для GSC, Яндекс Вебмастера, sitemap, robots и краулера.

Для разработки

Из статьи можно выделить задачи: редиректы, canonical, шаблоны, формы, микроразметка и события.

FAQ

Короткие ответы

Можно ли использовать этот чек-лист без SEO-специалиста?

Да, для первичной проверки. Для важных страниц лучше сверить выводы с вебмастерами, логами и краулером.

Что делать, если ошибка повторяется на многих страницах?

Искать шаблонную причину: генератор sitemap, общий canonical, блок noindex, меню или повторяющийся компонент.

Заявка

Проверить мой сайт

Оставьте ссылку на сайт, нишу и задачу. Мы вернемся с понятным следующим шагом.

Что болит

Сайт не растёт в Google или Яндексе? Проверить SEO-ошибки Заказать разбор