AI 报告 · Amazon · 2026-10-26 · 博客 / 评论
AI 智能体的“土拨鼠之日”：在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式
原标题: Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
智能体的每一步都会让模型重新读取其全部上下文，包括工具定义、指令和历史记录，这会增加输入成本和延迟。Amazon Bedrock 上 OpenAI 模型的提示词缓存会存储输入提示词，并在后续请求中复用，从而无需每轮重复发送相同的上下文，降低成本和延迟。它还能帮助智能体在获得新工具和派生辅助智能体时保持响应迅速且表现一致。