Relatórios de IA · Amazon · 2026-10-26 · Blog / comentário
O Dia da Marmota para agentes de IA: padrões de cache de prompts para usar modelos da OpenAI no Amazon Bedrock
Título original: Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
A cada etapa do agente, o modelo relê todo o seu contexto, incluindo definições de ferramentas, instruções e histórico, o que aumenta o custo de entrada e a latência. O armazenamento em cache de prompts para modelos da OpenAI no Amazon Bedrock guarda o prompt de entrada e o reutiliza em solicitações posteriores, reduzindo custo e latência sem reenviar o mesmo contexto a cada turno. Também ajuda os agentes a se manterem responsivos e consistentes à medida que ganham novas ferramentas e geram auxiliares.