AI رپورٹس · Amazon · 2026-10-26 · بلاگ / تبصرہ
AI ایجنٹس کے لیے Groundhog Day: Amazon Bedrock پر OpenAI ماڈلز استعمال کرنے کے لیے پرامپٹ کیشنگ کے پیٹرنز
اصل عنوان: Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
ایجنٹ کے ہر مرحلے پر ماڈل کو اپنا پورا کانٹیکسٹ دوبارہ پڑھنا پڑتا ہے، جس میں ٹول کی تعریفیں، ہدایات اور ہسٹری شامل ہیں، اور اس سے ان پٹ لاگت اور تاخیر بڑھ جاتی ہے۔ Amazon Bedrock پر OpenAI ماڈلز کے لیے پرامپٹ کیشنگ ان پٹ پرامپٹ کو محفوظ کر لیتی ہے اور بعد کی درخواستوں میں دوبارہ استعمال کرتی ہے، جس سے ہر بار وہی کانٹیکسٹ دوبارہ بھیجے بغیر لاگت اور تاخیر کم ہو جاتی ہے۔ یہ ایجنٹس کو بھی مدد دیتی ہے کہ نئے ٹولز حاصل کرنے اور مددگار ایجنٹس بنانے کے باوجود وہ جوابدہ اور مستقل مزاج رہیں۔