Visor de robots.txt
Un visor de robots.txt en línea. Introduce un dominio para obtener y analizar el robots.txt del sitio, mostrando las reglas Allow/Disallow agrupadas por User-agent, además de las URL de Sitemap y el retardo de rastreo. Muy útil para revisar reglas de rastreo y para SEO.