AI رپورٹس · Anthropic · 2026-11-02 · بلاگ / تبصرہ
بڑے لینگوئج ماڈلز کے لیے قابلِ ثبوت انفرنس میں پیش رفت
اصل عنوان: Progress on provable inference for large language models
Anthropic zkSNARK پر مبنی کرپٹوگرافک ثبوتوں کے ذریعے قابلِ تصدیق ماڈل انفرنس میں اپنی پیش رفت شیئر کرتا ہے، جو بنیادی طور پر FlashProve نامی نظام کے ذریعے ہے۔ یہ ثبوت ماڈل فراہم کنندہ کو کسی ماڈل کا عہد (commit) کرنے اور یہ ثابت کرنے دیتے ہیں کہ ہر جواب اسی سے آیا ہے، جسے پوسٹ کے مطابق صرف آؤٹ پٹ سے جانچنا مشکل ہے۔ اقتباس کے مطابق، 4-bit کوانٹائزڈ ویٹس کے ساتھ Llama 4 Maverick (400B پیرامیٹرز والے مکسچر آف ایکسپرٹس ماڈل) کے لیے، ایک H100 GPU تقریباً 110 ٹوکن فی سیکنڈ کی رفتار سے ثبوت تیار کرتا ہے، اور 1,024 ٹوکن کی ہر درخواست کے لیے ثبوت کا سائز تقریباً 19 MB ہے۔