Informes de IA · Amazon · 2026-10-26 · Blog / comentario
El día de la marmota para los agentes de IA: patrones de almacenamiento en caché de prompts para usar modelos de OpenAI en Amazon Bedrock
Título original: Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
En cada paso del agente, el modelo vuelve a leer todo su contexto, incluidas las definiciones de herramientas, las instrucciones y el historial, lo que aumenta el costo de entrada y la latencia. El almacenamiento en caché de prompts para los modelos de OpenAI en Amazon Bedrock guarda el prompt de entrada y lo reutiliza en solicitudes posteriores, reduciendo el costo y la latencia sin reenviar el mismo contexto en cada turno. También ayuda a que los agentes sigan siendo ágiles y coherentes a medida que incorporan nuevas herramientas y generan ayudantes.