¿Qué es la ventana de contexto, y por qué empeoran los chats largos?

Qué llena realmente la ventana de contexto

Cada mensaje que envías y cada respuesta del modelo se acumulan dentro de la ventana a medida que avanza la conversación — los turnos anteriores no desaparecen ni se resumen solos, se conservan completos.

• El system prompt
• Cada mensaje de la conversación, incluidos los resultados de herramientas, imágenes y documentos
• Las definiciones de cada herramienta puesta a disposición del modelo
• La salida generada en ese turno, incluido el extended thinking

Por qué más contexto no es automáticamente mejor

Esta es la parte que más sorprende, y es la razón de ser de esta página: una ventana más grande no es simplemente una ventaja mayor.

La consecuencia práctica es que curar lo que entra en el contexto importa tanto como el espacio disponible. Una ventana con espacio de sobra puede seguir llena de lo que no toca.

Cuál es el tamaño real, y qué cuenta en su contra

El tamaño depende del modelo. Claude Opus 5, Opus 4.8, Opus 4.7, Opus 4.6, Sonnet 5 y Sonnet 4.6 tienen una ventana de 1M tokens en la Claude API, Amazon Bedrock, Google Cloud y Microsoft Foundry — igual que Claude Fable 5 y Mythos 5. Otros modelos, incluido Claude Sonnet 4.5, tienen 200 mil.

En los modelos de 1M, una sola solicitud puede generar hasta 128 mil tokens de salida, y puede incluir hasta 600 imágenes o páginas de PDF — 100 en los modelos de 200 mil.

Cada respuesta indica exactamente cuánto de la ventana usó, en un campo usage. Con el caché de prompts activado, ese conteo de entrada se divide en input_tokens, cache_read_input_tokens y cache_creation_input_tokens — y los tres siguen contando para la ventana. El caché cambia lo que esos tokens cuestan, no si ocupan espacio.

Qué pasa al superarla, y qué se gestiona por ti

Si solo la entrada ya es más grande que la ventana, la API rechaza la solicitud directamente con un error 400 invalid_request_error diciendo que el prompt es demasiado largo. En los modelos Claude 4.5 en adelante es menos tajante: si la entrada más el max_tokens pedido superaría la ventana, la solicitud se acepta igual, y la generación solo se detiene si realmente llega al límite, terminando con stop_reason: “model_context_window_exceeded”.

También existe una token counting API para estimar cuánto de la ventana va a usar una solicitud antes de enviarla. Y ocurren tres cosas para gestionar la ventana por ti, sin que lo pidas:

• La compactación del lado del servidor — en beta para los modelos Claude 4.6 en adelante — resume las partes más antiguas de una conversación larga en el servidor de Anthropic, y es la estrategia principal para mantener una conversación más allá de lo que cabría de otro modo.
• La edición de contexto ofrece el borrado de resultados de herramientas y el borrado de bloques de thinking — quita cosas concretas del contexto en vez de resumirlo todo.
• La conciencia de contexto, en Claude Sonnet 5, Sonnet 4.6, Sonnet 4.5 y Haiku 4.5, deja que el modelo siga su propio presupuesto restante — la API inyecta esa información automáticamente, así que no hay nada que activar.