AI レポート · Amazon · 2026-10-26 · ブログ・論評
AIエージェントのグラウンドホッグ・デイ：Amazon BedrockでOpenAIモデルを使うためのプロンプトキャッシュの型
原題: Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AIエージェントは、ステップごとにツール定義や指示、履歴を含む文脈全体を読み直すため、入力コストと遅延が積み重なる。Amazon Bedrock上のOpenAIモデルのプロンプトキャッシュは、入力プロンプトを保存して後続のリクエストで再利用し、同じ内容を毎ターン送り直さずにコストと遅延を抑える。キャッシュはエージェントの応答性と一貫性も保つ。