Файл robots.txt для блога на WordPress
Файл robots.txt показывает поисковым роботам как индексировать ваш сайт. Содержимое файла robots.txt сообщает поисковикам какие страницы вашего блога индексировать, а какие нет. Читайте далее, чтобы получить чек-лист по созданию и редактированию файла robots.txt. Также предлагаю вашему вниманию идеальный файл robots.txt для блога на WordPress.
Как создать и редактировать robots.txt с помощью плагина Yoast SEO
ЧЕК — ЛИСТ
- Заходим в админ-панель WordPress
- Переходим Yoast SEO — Инструменты
- Далее идем в Редактор файлов
- Если в корне сайта этого файла нет, жмем Создать robots.txt
- Если есть, то будет возможно редактирование содержимого файла robots.txt
- Копируем содержимое файла robots.txt в NotePad++
- Меняем в последней строке ваш.сайт на свой сайт
- Копируем содержимое и добавляем в админке Yoast SEO
- Жмем Сохранить изменения в robots.txt
- Проверяем свою работу по адресу: ваш.сайт/robots.txt
Файл robots.txt для блога на WordPress
User-agent: *
Disallow: /cgi-bin
Disallow: /wp-admin
Disallow: /wp-content/cache
Disallow: /wp-json/
Disallow: /wp-login.php
Disallow: /wp-register.php
Disallow: /xmlrpc.php
Disallow: /license.txt
Disallow: /readme.html
Disallow: /trackback/
Disallow: /comments/feed/
Disallow: /*?replytocom
Disallow: */feed
Disallow: /rss
Disallow: /author/
Disallow: /?
Disallow: /?
Disallow: /?s=
Disallow: *&s=
Disallow: /search
Disallow: *?attachment_id=
Allow: /.css
Allow: /.js
Allow: /wp-content/uploads/
Allow: /wp-content/themes/
Allow: /wp-content/plugins/
Sitemap: https://ваш.сайт/sitemap_index.xml