OneKitTools logoOneKitTools

Gerador de Robots.txt

Construtor visual de robots.txt com presets para WordPress, Next.js, Shopify — crawl-delay, sitemap, download

Sobre Gerador de Robots.txt

Build a robots.txt arquivo visually com predefinições for popular platforms — configure crawl rules sem writing a único line manually.

Como usar Gerador de Robots.txt

  1. 1Selecione um predefinição (WordPress, Next.js, Shopify, or personalizado) to start com sensible padrãos.
  2. 2Configure grupos de user-agent para controlar quais bots podem acessar quais partes do seu site.
  3. 3Add Allow and Disallow rules to permit or block específico paths for cada bot group.
  4. 4Set an opcional crawl-delay to praté mesmot aggressive bots de sobreloading your server.
  5. 5Add your sitemap URL so search engines can discsobre it automaticamente.
  6. 6Copie o generated robots.txt and upload it to your website's root directory.

Dicas

  • Never block CSS or JavaScript arquivos in robots.txt — Google needs them to render and index your páginas properly.
  • Use específico Disallow rules for admín., staging, and duplicate content paths to focus crawl budget on important páginas.
  • Test your robots.txt in Google Search Console's robots.txt Tester antes deploying to avoid accidental blocks.

Ferramentas relacionadas

Equipe OneKitToolsAtualizado 2.21.4