Gerador de Robots.txt
Construtor visual de robots.txt com presets para WordPress, Next.js, Shopify — crawl-delay, sitemap, download
Sobre Gerador de Robots.txt
Build a robots.txt arquivo visually com predefinições for popular platforms — configure crawl rules sem writing a único line manually.
Como usar Gerador de Robots.txt
- 1Selecione um predefinição (WordPress, Next.js, Shopify, or personalizado) to start com sensible padrãos.
- 2Configure grupos de user-agent para controlar quais bots podem acessar quais partes do seu site.
- 3Add Allow and Disallow rules to permit or block específico paths for cada bot group.
- 4Set an opcional crawl-delay to praté mesmot aggressive bots de sobreloading your server.
- 5Add your sitemap URL so search engines can discsobre it automaticamente.
- 6Copie o generated robots.txt and upload it to your website's root directory.
Dicas
- Never block CSS or JavaScript arquivos in robots.txt — Google needs them to render and index your páginas properly.
- Use específico Disallow rules for admín., staging, and duplicate content paths to focus crawl budget on important páginas.
- Test your robots.txt in Google Search Console's robots.txt Tester antes deploying to avoid accidental blocks.
Ferramentas relacionadas
Equipe OneKitToolsAtualizado 2.21.4