+7 (4872) 52-40-45
Модуль генерации правил и исключений для поисковых роботов
Получить действующий файл robots.txt
Все роботы (*):
Allow (разрешить индексирование)
Disallow (запретить индексирование)
Файл Sitemap
Директива:
не указано
Allow (разрешить индексирование)
Disallow (запретить индексирование)
Crawl-delay (задержка между запросами)
Clean-param (очистка параметров URL)
Host (основное зеркало)
Робот:
Все роботы (*)
Yandex
YaDirectFetcher
YandexDirectDyn
YandexMedia
YandexImages
YandexBlogs
YandexNews
YandexPagechecker
YandexMetrika
YandexBot
YandexDirect
YandexMarket
NinjaBot
GoogleBot
GoogleBot-News
GoogleBot-Mobile
GoogleBot-Video
GoogleBot-Image
Mediapartners-Google
Adsbot-Google
Bingbot
Slurp
Teoma
twiceler
Gigabot
Scrubby
Robozilla
ia_archiver
baiduspider
naverbot
yeti
yahoo-mmcrawler
psbot
asterias
yahoo-blogs/v3.9
Specify
Указать другой...
Время задержки, в секундах:
Параметры для исключения:
Файл или директория:
в расширенном режиме можно использовать спецсимвол * и $
Исключить вложенные адреса
URL (с указанием протокола):
Добавить строку с директивой
Сгенерировать файл
Выделить все
Скачать файл
Результат:
Сохранить изменения файла
Проверьте результат перед публикацией:
анализ robots.txt