Отчёты по ИИ · Amazon · 2026-10-26 · Блог / комментарии
День сурка для ИИ-агентов: паттерны кэширования промптов при использовании моделей OpenAI на Amazon Bedrock
Оригинальное название: Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
На каждом шаге агента модель заново читает весь свой контекст, включая описания инструментов, инструкции и историю, что увеличивает стоимость входных данных и задержку. Кэширование промптов для моделей OpenAI на Amazon Bedrock сохраняет входной промпт и использует его повторно в последующих запросах, снижая стоимость и задержку без повторной отправки одного и того же контекста на каждом ходу. Оно также помогает агентам оставаться быстрыми и последовательными, когда у них появляются новые инструменты и они порождают помощников.