MyClawn AI Search Audit
ES
Iniciar sesión

MyClawn AI Search Audit › Rastreadores de IA

GPTBot y otros rastreadores de IA: qué permitir en robots.txt

Bloquear el bot equivocado puede sacarte de las respuestas de ChatGPT o de otros buscadores con IA sin tocar el entrenamiento, o al revés. Aquí tienes lo que hace cada rastreador según su operador, y un robots.txt que te mantiene visible.

Bots de entrenamiento vs bots de búsqueda vs usuarios que descargan páginas

CrawlerFinalidad declarada por el operadorRespeta robots.txtSi lo bloqueas
GPTBotRecopila contenido que puede usarse para entrenar los modelos de OpenAI (OpenAI)SíTe excluyes del entrenamiento; por sí solo no te quita de la búsqueda de ChatGPT
OAI-SearchBotMuestra sitios web en las funciones de búsqueda de ChatGPT (OpenAI)Sí«No se mostrará en las respuestas de búsqueda de ChatGPT», aunque los enlaces de navegación pueden seguir apareciendo
ChatGPT-UserVisita páginas cuando un usuario le pide algo a ChatGPT o a un GPT personalizado (OpenAI)Las reglas «pueden no aplicarse»No se usa para decidir la inclusión en la búsqueda
PerplexityBotMuestra y enlaza sitios en los resultados de Perplexity; no se usa para entrenamiento (Perplexity)SíFuera de los resultados de búsqueda de Perplexity
Perplexity-UserObtiene una página cuando un usuario hace una pregunta (Perplexity)Generalmente la ignoraPoco efecto
Google-ExtendedToken de robots.txt para el entrenamiento y la fundamentación de Gemini (Google)Sí (solo token, sin bot aparte)No afecta la inclusión ni el posicionamiento en la búsqueda de Google
Googlebot, BingbotIndexación de búsquedaSíFuera de la búsqueda, y fuera de las respuestas de IA que se construyen sobre ella

Un robots.txt que sigue siendo visible pero excluye el entrenamiento

Si quieres aparecer en las respuestas de búsqueda de IA pero no que tus páginas se usen para entrenar modelos, este es el patrón habitual:

User-agent: OAI-SearchBot
Allow: /

User-agent: PerplexityBot
Allow: /

User-agent: GPTBot
Disallow: /

User-agent: Google-Extended
Disallow: /

User-agent: *
Allow: /

Sitemap: https://example.com/sitemap.xml

Cambia el dominio, conserva las reglas existentes para tus rutas de administración o carrito, y recuerda que un bloque User-agent: * no anula un bloque con nombre: un bot sigue el grupo más específico que lo nombra. Si te parece bien que se use para entrenamiento, deja GPTBot y Google-Extended permitidos.

OpenAI indica que los cambios en la búsqueda pueden tardar unas 24 horas en aplicarse después de actualizar robots.txt.

Pega la dirección de tu sitio web. Starter $39/mes · Pro $129/mes. Reembolso en un plazo de 14 días si no cumple.

Auditar mi sitio

El error que más vemos: el cortafuegos dice que no

robots.txt es una petición; lo que realmente responde es tu CDN o cortafuegos. Los interruptores de "bloquear bots de IA" en CDNs y plugins de seguridad, los modos anti-bots y los límites de tasa pueden devolver 403 o 429 a rastreadores de búsqueda que robots.txt sí permite. Desde fuera, el sitio parece abierto; para OAI-SearchBot, está cerrado.

Por eso nuestra auditoría no se limita a leer robots.txt. Descarga tu página de inicio con el user agent de cada rastreador y registra el código de estado HTTP en una tabla, así que un bloqueo aparece como un número, no como una suposición. (Un cortafuegos que revisa rangos de IP puede seguir tratando nuestras solicitudes de forma distinta al bot real; el informe indica cuándo un resultado necesita confirmarse en los logs de tu CDN.)

Decisiones según el tipo de negocio

EresNormalmente
Un negocio de servicios localesPermite los rastreadores de búsqueda (OAI-SearchBot, PerplexityBot, Bingbot, Googlebot). Bots de entrenamiento: tú decides; a la mayoría de los negocios locales bloquearlos no les aporta nada.
B2B o SaaSPermite los rastreadores de búsqueda. Bloquea los bots de entrenamiento solo en las rutas de contenido restringido o propietario.
Un editor con contenido de pagoEs un verdadero compromiso; decide por sección. No es nuestro público principal.

Lo que te da la auditoría

fixes/robots-check.txt con las líneas exactas que hay que cambiar, o "no change needed", además de la tabla de rastreadores en el informe: cada bot, su regla en robots.txt y el estado HTTP que obtuvimos. Lee más sobre cómo funciona.

Por qué lo creamos: ejecutamos nuestros propios productos de software y medimos, en nuestra propia analítica, de dónde llegan los registros. Durante 34 días, las visitas procedentes de ChatGPT generaron 46 registros en un producto, 27 en un segundo y 15 en un tercero; Gemini envió 11. Las visitas de ChatGPT se convirtieron de visita a registro en torno al 31 % (analítica interna, noviembre de 2026). Es un canal pequeño junto a Google, pero convierte, y queríamos las mismas comprobaciones para cada sitio que gestionamos. Esta auditoría son esas comprobaciones, documentadas para tu sitio.

Preguntas

¿Bloquear GPTBot me saca de ChatGPT?

No de ChatGPT search, según la documentación de OpenAI: la inclusión en la búsqueda la controla OAI-SearchBot.

¿Bloquear Google-Extended perjudica mis posiciones en Google?

Google dice que no afecta a la inclusión ni al posicionamiento en Google Search.

¿Puedo verificar que una petición es realmente de GPTBot?

OpenAI publica los rangos de IP de sus rastreadores; compruébalos en los registros de tu servidor o CDN.

Pega la dirección de tu sitio web. Starter $39/mes · Pro $129/mes. Reembolso en un plazo de 14 días si no cumple.

Auditar mi sitio

Más sobre AI Search Audit

Fuentes (consultadas el 2026-11-09): developers.openai.com/api/docs/bots · docs.perplexity.ai/guides/bots · developers.google.com/crawling/docs/crawlers-fetchers/google-common-cr