Правильный robots.txt для CMS wordpress

Правильный robots.txt для CMS wordpress
Правильный robots.txt для CMS wordpress

Всем привет! За свою «вебмастерскую» карьеру я встречал не один десяток вариантов составления правильного по мнению автора robots.txt для wordpress. Поэтому я решил выложить свой вариант этого файла. За все 3-4 года, что я работаю с этой CMS проблем с индексацией изза роботс.тхт не возникало.

Если у вас нет до сих пор этого файла, то самое время создать его в блокноте и посетить в корень сайта. Правильный robots.txt для яндекса и гугла спешл фор CMS wordpress выглядит так:

User-agent: Yandex
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-comments
Disallow: */trackback
Disallow: */feed
Disallow: */comments
Host: ( здесь указывается основной домен, с www или без, например, www.sayt.ru

User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-includes
Disallow: /wp-content/plugins
Disallow: /wp-content/cache
Disallow: /wp-content/themes
Disallow: /wp-trackback
Disallow: /wp-feed
Disallow: /wp-comments
Disallow: */trackback
Disallow: */feed
Disallow: */comments

Sitemap: http://vasha-karta-sayta.ru/sitemap.xml ( тут указывается адрес карты сайта )

Также часто можно встретить немного измененные варианты этого файла. Чаще всего изменения касаются удаления строчек ( Disallow: /wp-comments и Disallow: */comments ) для индексации комментариев поисковыми системами. Вот в этой статье подробно описано о важности комментариев. Скажем для этого блога открытие к индексации текста комментариев ( ссылка уже давно открыта, так как блог dofollow) дало прирост трафика +10-15%, так как в комментариях по сути тот же контент и он несет ценность для поисковых машин.

Вторым частым изменением является добавление еще 1 строчки, связанной с картой сайта. Sitemap: http://vasha-karta-sayta.ru/sitemap.xml.gz , но это условие совсем не обязательное.

Страдать извращениями и добавлять User-agent: YandexBlog я смысла не вижу. Вообще robots.txt для вордпресс надо писать индивидуально под свой проект, но в качестве основы то, что я привел выше Вам вполне сгодится.

Всем хорошего дня!

Понравилась статья? Поделиться с друзьями:
Комментарии: 119
  1. Дмитрий

    Дубли надо убирать, яндекс в первую очередь их не любит. Да и для лучшей индексации этот файл надо держать в порядке. А этот пример файла как раз правильный.

  2. Ильяс

    А что если вообще не создавать роботс? как это повлияет на блог?

    1. admin (автор)

      В принципе ничего страшного, но дубли никому ничего хорошего не приносили

      1. Игорь

        Я не создавал роботс, и как то дублей тоже не видел, на joomla сразу после индексации сайта было видно что дубли есть и попали в индекс, а на WP где их искать чтобы закрыть от индексации, ведь они же есть( читал знаю что должны быть ) но найти не могу.

  3. Ted

    Зачем дублировать для яндекса, если правила идентичные? В чем магия?

    1. admin (автор)

      Яндекс — ферзь и требует к себе индивидуального подхода

  4. Poker4Sale

    Спасибо за информацию! )

  5. Андрей

    да спасибо ,если это не делать то твой уникальный контент может посчитаться не уникальным?но нашли же на твоем сайте

Добавить комментарий

;-) :| :x :twisted: :smile: :shock: :sad: :roll: :razz: :oops: :o :mrgreen: :lol: :idea: :grin: :evil: :cry: :cool: :arrow: :???: :?: :!: