Probador de robots.txt

¿Tu robots.txt bloquea a Google?

Escribe una dirección. Leemos el robots.txt del sitio y te decimos si una regla deja fuera a todos los rastreadores de todo el sitio. Gratis, sin registro, no se guarda nada.

Una página por revisión. La descargamos como lo hace un rastreador, sin navegador, y no guardamos nada.

Qué revisa

robots.txt es un archivo de texto en la raíz de tu sitio que indica a los rastreadores de los buscadores qué rutas no deben rastrear. La herramienta lee el grupo "User-agent: *", que se aplica a todos los rastreadores. Si ese grupo dice "Disallow: /", todo el sitio queda cerrado al rastreo.

Por qué importa

Esa línea suele ponerse a propósito en un entorno de pruebas y olvidarse al publicar el sitio. Google deja de rastrear: las páginas pueden seguir un tiempo en el índice, pero su contenido deja de actualizarse y las nuevas nunca se añaden. El tráfico cae en silencio durante semanas, no de un día para otro, y por eso se nota tarde.

Cómo corregirlo

  1. Abre el archivo en el navegador: tusitio.com/robots.txt.
  2. Elimina la línea "Disallow: /" bajo "User-agent: *", o indica solo las rutas que quieres cerrar (por ejemplo "Disallow: /wp-admin/").
  3. Revisa el informe de robots.txt de Search Console para ver qué versión obtuvo Google y solicita un nuevo rastreo.
Preguntas

Lo que suele preguntarse después.

¿"Disallow: /" es siempre un error?

No. En un entorno de pruebas es exactamente lo correcto. El problema es que el mismo archivo llegue al sitio publicado.

Mi sitio no tiene robots.txt. ¿Es un problema?

No. Sin el archivo, los rastreadores consideran todo permitido, y esta herramienta lo muestra como correcto.

¿Y un bloqueo a un solo bot, como los rastreadores de IA?

La herramienta solo lee el grupo "User-agent: *" que afecta a todos los rastreadores. Bloquear a un bot concreto es una decisión, no un accidente, así que no se marca.

No una vez. Cada día.

Esta revisión es la foto de hoy. Crawlens ejecuta las mismas revisiones en los sitios de tus clientes de forma programada y te avisa, con la evidencia, cuando algo se rompe.

Empieza a monitorizar gratis ↗