AI रिपोर्ट्स · Anthropic · 2026-11-02 · ब्लॉग / टिप्पणी
बड़े भाषा मॉडलों के लिए प्रमाणित अनुमान (provable inference) में प्रगति
मूल शीर्षक: Progress on provable inference for large language models
Anthropic, FlashProve नामक सिस्टम के माध्यम से मुख्य रूप से, सत्यापन-योग्य मॉडल इन्फ़रेंस के लिए zkSNARK-आधारित क्रिप्टोग्राफ़िक प्रूफ़ पर हुई प्रगति साझा करता है। ये प्रूफ़ किसी मॉडल प्रदाता को मॉडल के प्रति प्रतिबद्ध होने और यह साबित करने देते हैं कि हर प्रतिक्रिया उसी से आई है, जिसे पोस्ट के अनुसार केवल आउटपुट से जाँचना कठिन है। अंश के अनुसार, 4-बिट क्वांटाइज़्ड वेट वाले Llama 4 Maverick (400B-पैरामीटर वाला मिक्सचर-ऑफ़-एक्सपर्ट्स मॉडल) के लिए, एक H100 GPU लगभग 110 टोकन प्रति सेकंड की गति से प्रूफ़ बनाता है, और प्रत्येक 1,024-टोकन अनुरोध के लिए प्रूफ़ का आकार लगभग 19 MB होता है।