Prompt Caching OpenAI API: reduce costo y latencia
Prompt Caching OpenAI API permite reutilizar partes repetidas del contexto para reducir el costo de tokens de entrada y mejorar la eficiencia de aplicaciones que envían instrucciones, documentos o conversaciones similares de forma recurrente. Con Responses API puedes aprovechar caché automática, prompt_cache_key y breakpoints explícitos en modelos compatibles.
¿Qué es Prompt Caching OpenAI API?
Prompt Caching OpenAI API es un mecanismo que permite reutilizar prefijos de prompt previamente procesados cuando solicitudes posteriores comparten contenido idéntico o reutilizable. Esto puede reducir el costo de entrada y evitar procesar repetidamente grandes bloques de contexto estático.
Qué permite hacer Prompt Caching OpenAI API
Prompt Caching es especialmente útil cuando muchas solicitudes comparten grandes bloques de contenido.
Reducir costos
Los tokens reutilizados pueden facturarse como cached input.
Reducir procesamiento
Evita repetir parte del trabajo sobre contexto estático.
Usar cache keys
prompt_cache_key
ayuda a agrupar
solicitudes similares.
Definir breakpoints
En modelos recientes puedes indicar puntos explícitos de caché.
Medir tokens cacheados
El usage permite comprobar cuánto contexto se reutilizó.
Optimizar agentes
Ideal para workflows largos con instrucciones y herramientas repetidas.
Cómo funciona Prompt Caching en OpenAI API
El sistema compara partes reutilizables de solicitudes anteriores y puede aprovechar los prefijos ya procesados.
Envías contenido estable
Instrucciones, herramientas o contexto repetido.
Se reutiliza el prefijo
Una solicitud futura puede aprovechar contenido compatible ya procesado.
Procesas solo lo variable
El contenido dinámico permanece al final del prompt.
Prompt Caching puede funcionar automáticamente
En modelos compatibles, no siempre necesitas implementar manualmente una caché externa para obtener beneficios.
OpenAI puede elegir un breakpoint automáticamente
En GPT-5.6 y modelos posteriores, OpenAI selecciona por defecto un breakpoint implícito para prompt caching.
Coloca instrucciones, herramientas y contenido estático al comienzo. Deja información variable del usuario hacia el final.
Ejemplo de Prompt Caching OpenAI API
Responses API permite utilizar una cache key para mejorar el agrupamiento de solicitudes similares.
Usar prompt_cache_key
{
"model": "gpt-5.6-sol",
"prompt_cache_key": "soporte_empresa_123",
"input": [
{
"role": "developer",
"content": "Eres el asistente de soporte de nuestra empresa. Sigue estas políticas..."
},
{
"role": "user",
"content": "¿Cómo puedo cambiar mi contraseña?"
}
]
}
prompt_cache_key
ayuda a optimizar
los cache hits
entre solicitudes similares,
pero los prefijos
todavía deben ser
suficientemente reutilizables.
Qué es prompt_cache_key
Responses API dispone de un campo específico para mejorar el agrupamiento de solicitudes relacionadas.
Clave estable para solicitudes similares
Una clave estable puede utilizarse para separar diferentes usuarios, clientes, productos o tipos de workflows y favorecer una estrategia de caché más consistente.
OpenAI recomienda utilizar una key estable cuando necesitas separar el caching entre diferentes usuarios o clientes.
prompt_cache_options en modelos GPT-5.6 y posteriores
Los modelos recientes incorporan controles adicionales para Prompt Caching.
Configurar modo y TTL
{
"model": "gpt-5.6-sol",
"prompt_cache_key": "agente_soporte",
"prompt_cache_options": {
"ttl": "30m"
},
"input": "Responde utilizando las políticas y herramientas disponibles."
}
La referencia actual
indica que
30m
es el valor de TTL
soportado actualmente
en prompt_cache_options.
Qué es el modo explícito de Prompt Caching
También puedes asumir mayor control sobre dónde se producen los breakpoints de caché.
Desactivar el breakpoint implícito
{
"prompt_cache_options": {
"mode": "explicit",
"ttl": "30m"
}
}En modo explícito, debes decidir dónde colocar los breakpoints que realmente aporten reutilización.
prompt_cache_breakpoint
Los bloques de contenido compatibles pueden incluir un breakpoint de caché explícito.
Marcar una frontera reutilizable
{
"type": "input_text",
"text": "Políticas empresariales, documentación y reglas estables...",
"prompt_cache_breakpoint": {
"type": "ephemeral"
}
}La estructura exacta del breakpoint puede evolucionar entre versiones de SDK y API.
Cuántos breakpoints puede escribir una solicitud
La implementación actual limita el número de nuevos puntos de caché que una sola solicitud puede escribir.
Hasta cuatro breakpoints por request
Responses API permite escribir hasta cuatro breakpoints explícitos por solicitud.
Los mejores candidatos son grandes bloques estables que se reutilizan frecuentemente.
Cómo se buscan breakpoints reutilizables
El sistema considera breakpoints recientes de la conversación para encontrar prefijos reutilizables.
Hasta los 80 breakpoints más recientes
La referencia de GPT-5.6+ indica que el sistema considera hasta los últimos 80 breakpoints de la conversación durante el matching.
Ordena el prompt para maximizar cache hits
La arquitectura del prompt influye directamente en cuánto contenido puede reutilizarse.
Contenido estático
Developer instructions, políticas, documentación, herramientas y reglas persistentes.
Contenido dinámico
Pregunta actual, variables del usuario, fecha específica o información cambiante.
Estático primero, dinámico al final. OpenAI recomienda este patrón para mejorar el aprovechamiento del cache.
Un orden que dificulta Prompt Caching
Si modificas el comienzo del prompt en cada llamada, puedes reducir las posibilidades de reutilización.
Contenido dinámico primero
Usuario: pregunta diferente en cada request
Luego:
- 10.000 tokens de instrucciones
- documentación estable
- catálogo de herramientas
- políticas de empresaUn orden más favorable para Prompt Caching
Mantén constante el prefijo siempre que sea posible.
Contenido estable primero
1. Instrucciones estables
2. Políticas de empresa
3. Documentación
4. Herramientas
5. Contexto compartido
6. Pregunta actual del usuarioCómo saber si Prompt Caching está funcionando
No necesitas adivinar si una solicitud aprovechó el caché.
Revisa el usage de la respuesta
{
"usage": {
"input_tokens": 12000,
"input_tokens_details": {
"cached_tokens": 9000
}
}
}Un número alto de cached tokens indica que una parte importante del contexto pudo reutilizarse.
Prompt Cache Diagnostics
Responses API también contempla información para diagnosticar problemas de caché.
Analizar cache misses
La respuesta puede incluir diagnósticos relacionados con tokens que no pudieron reutilizarse y la razón del miss.
Cuánto cuesta el input cacheado
Los modelos pueden tener una tarifa específica para cached input.
| Modelo | Input / 1M | Cached input / 1M |
|---|---|---|
| GPT-5.6 Sol | $4.00 | $0.40 |
| GPT-5.6 Terra | $2.00 | $0.20 |
| GPT-5.6 Luna | $0.20 | $0.02 |
Estos valores deben revisarse siempre antes de realizar cálculos de producción, porque OpenAI puede modificar precios y condiciones.
En estos modelos, la tarifa publicada de cached input equivale actualmente al 10% del precio normal de entrada.
Ver precios OpenAI API →Las escrituras de caché también pueden tener costo
En los modelos GPT-5.6, OpenAI diferencia entre reutilizar un caché existente y escribir nuevo contenido cacheable.
Cache writes en GPT-5.6
La documentación actual indica que las escrituras de caché se facturan a 1,25 veces la tarifa normal de input no cacheado para estos modelos.
Una parte estable que se reutiliza muchas veces puede compensar el costo inicial de escribirla en caché.
Casos de uso de Prompt Caching OpenAI API
Prompt Caching es especialmente útil en aplicaciones con prefijos largos y repetitivos.
Chatbots: reutilizar políticas, personalidad e instrucciones base.
Agentes: mantener tool definitions y reglas comunes.
RAG: reutilizar grandes bloques de contexto estable.
Empresas: políticas internas compartidas por muchas consultas.
Programación: instrucciones, repositorios y herramientas repetidas.
SaaS: contexto diferente por cliente, agrupado mediante cache keys.
Prompt Caching y File Search
Prompt Caching y File Search resuelven problemas diferentes pero pueden combinarse.
| Aspecto | Prompt Caching | File Search |
|---|---|---|
| Objetivo | Reutilizar contexto procesado | Recuperar información relevante |
| Fuente | Prompt repetido | Vector stores |
| Búsqueda semántica | No es su objetivo | Sí |
| Ahorro de input | Puede reducir el costo del prefijo reutilizado | Reduce cuánto contenido necesitas recuperar |
File Search recupera contexto relevante; Prompt Caching puede ayudar con las partes estáticas del workflow.
Ver File Search →Prompt Caching y Structured Outputs
Los schemas también pueden formar parte repetida de una arquitectura de prompts.
Mantén estructuras estables cuando sea posible
Si utilizas el mismo schema repetidamente, evita cambiar innecesariamente su posición o contenido entre requests.
Ver Structured Outputs →Tool definitions y Prompt Caching
Las definiciones de herramientas pueden representar una parte considerable del contexto de un agente.
No reorganices tools sin necesidad
Mantener nombres, descripciones y schemas estables ayuda a conservar un prefijo más reutilizable.
Cuando tienes demasiadas herramientas, también puedes evaluar Tool Search para evitar cargarlas todas en cada request.
Ver Tool Search →Prompt Caching y previous_response_id
Responses API permite continuar conversaciones utilizando una respuesta anterior.
El caching sigue siendo relevante
En conversaciones largas, la reutilización de contexto y los breakpoints pueden ayudar a mantener una arquitectura más eficiente.
Ver Responses API →Prompt Caching en GPT-5.6
Los modelos de la familia GPT-5.6 publican tarifas específicas de cached input.
| Modelo | Cached input | Uso típico |
|---|---|---|
| GPT-5.6 Sol | $0.40 / 1M | Workflows profesionales complejos |
| GPT-5.6 Terra | $0.20 / 1M | Equilibrio capacidad/costo |
| GPT-5.6 Luna | $0.02 / 1M | Alto volumen y costo optimizado |
Prompt Caching reduce el costo de contexto reutilizado, pero debes elegir el modelo según la calidad y capacidad que necesita tu aplicación.
Comparar modelos →Cuándo conviene utilizar Prompt Caching
El mayor beneficio aparece cuando una gran parte del input se repite.
Prompts largos con instrucciones constantes.
Agentes con muchas herramientas estables.
Contextos corporativos reutilizados por muchos usuarios.
Conversaciones extensas.
Workflows de alto volumen con prefijos repetitivos.
Cuándo Prompt Caching aporta poco beneficio
No todas las aplicaciones generan suficiente contenido repetido.
Solicitudes pequeñas
Si cada prompt tiene poco contenido, el ahorro potencial puede ser limitado.
Todo cambia
Si el prefijo cambia constantemente, habrá menos contenido reutilizable.
Buenas prácticas con Prompt Caching OpenAI API
Un buen diseño ayuda a conseguir mejores cache hits sin complicar innecesariamente la aplicación.
Mantén contenido estático al principio.
Coloca variables al final.
Evita modificar instrucciones sin necesidad.
Utiliza cache keys estables.
Mide
cached_tokens
en producción.
Evalúa costo por workflow, no solo por request.
prompt_cache_retention está deprecado
Algunas guías antiguas utilizan un campo que ya no es la opción recomendada en modelos recientes.
Usa prompt_cache_options.ttl
Para GPT-5.6
y generaciones posteriores,
OpenAI recomienda
migrar desde
prompt_cache_retention
hacia
prompt_cache_options.ttl.
Documentación oficial de Prompt Caching OpenAI API
Prompt Caching continúa evolucionando, especialmente en los modelos GPT-5.6 y posteriores.
Responses API y Prompt Caching
Revisa prompt_cache_key, prompt_cache_options, breakpoints, TTL y diagnósticos en la referencia actual.
Consultar documentación oficial →Guías relacionadas con Prompt Caching OpenAI API
Continúa optimizando costo, estructura y rendimiento de OpenAI API.
FAQ sobre Prompt Caching OpenAI API
Respuestas sobre cached tokens, cache keys, breakpoints, TTL y costos.
Prompt Caching OpenAI API permite reutilizar partes repetidas del contexto para reducir el procesamiento y costo de entrada.
En modelos compatibles, OpenAI puede elegir automáticamente un breakpoint implícito para aprovechar contenido repetido.
Es una clave que ayuda a OpenAI a agrupar solicitudes similares y optimizar los cache hits.
Permite indicar un punto explícito de caché dentro de bloques de contenido compatibles.
La referencia actual indica que cada solicitud puede escribir hasta cuatro breakpoints explícitos.
Para prompt_cache_options en GPT-5.6 y modelos posteriores, la referencia actual publica un TTL de 30 minutos.
Revisa el campo cached_tokens dentro de los detalles de tokens de entrada de usage.
Sí, los modelos compatibles pueden tener una tarifa específica más baja para cached input.
OpenAI recomienda colocar el contenido estable al principio y el contenido dinámico hacia el final para favorecer cache hits.
No para los modelos actuales. OpenAI lo marca como deprecado y recomienda utilizar prompt_cache_options.ttl en GPT-5.6 y posteriores.
Continúa con Batch API de OpenAI
Ya sabes cómo reducir el costo de contexto repetido. El siguiente paso es aprender cómo procesar grandes volúmenes de solicitudes de forma asíncrona y optimizada.
Ver Batch API →