Технический SEOclient-side

Генератор robots.txt

Помогает быстро собрать черновик robots.txt под сайт и экспортировать готовый текст.

Принцип работы

Инструмент решает узкую SEO-задачу прямо в браузере: вы вводите исходные данные, а результат обновляется сразу, без ручного синтаксиса и без перехода между сервисами.

Технический SEOclient-side

Генератор robots.txt

Подходит для быстрого старта или перепроверки robots.txt, когда нужно собрать базовые правила индексации в понятном конструкторе.

Что умеет
Несколько User-agent в одном файле.
Директивы Allow, Disallow, Sitemap и Host.
Готовый текст можно сразу вставить на сайт.
Панель ввода

Готовый robots.txt

User-agent: *
Allow: /
Allow: /wp-content/uploads/
Disallow: /admin/
Disallow: /api/
Disallow: /tmp/

User-agent: Googlebot
Allow: /
Allow: /wp-content/uploads/
Disallow: /admin/
Disallow: /api/
Disallow: /tmp/

Host: shelpakov.online
Sitemap: https://shelpakov.online/sitemap.xml

Что проверить перед публикацией

Не закрывайте служебно важные разделы, если они должны индексироваться.

Проверьте, что в sitemap указан правильный протокол и боевой домен.

Если сайт на разных зеркалах, отдельно проверьте настройки редиректов и canonical.

Еще инструменты

Можно открыть соседние утилиты

Перейти в хаб