AI 報告 · Amazon · 2026-10-26 · 部落格／評論
AI 代理的《今天暫時停止》：在 Amazon Bedrock 上使用 OpenAI 模型的提示快取模式
原標題: Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
代理的每一個步驟都會讓模型重新讀取其完整上下文，包括工具定義、指示與歷史紀錄，這會提高輸入成本與延遲。Amazon Bedrock 上 OpenAI 模型的提示快取會儲存輸入提示，並在後續請求中重複使用，無需每一輪都重新傳送相同的上下文，從而降低成本與延遲。這也有助於代理在獲得新工具並衍生輔助代理時，維持回應迅速且表現一致。