এআই রিপোর্ট · Anthropic · 2026-11-02 · ব্লগ / মন্তব্য

বৃহৎ ভাষা মডেলের জন্য প্রমাণযোগ্য ইনফারেন্সে অগ্রগতি

মূল শিরোনাম: Progress on provable inference for large language models

Anthropic zkSNARK-ভিত্তিক ক্রিপ্টোগ্রাফিক প্রুফের মাধ্যমে যাচাইযোগ্য মডেল ইনফারেন্সের ক্ষেত্রে অগ্রগতি জানিয়েছে, যা মূলত FlashProve নামের একটি সিস্টেমের মাধ্যমে। এই প্রুফের সাহায্যে একজন মডেল প্রদানকারী একটি মডেলের প্রতি অঙ্গীকারবদ্ধ হতে পারে এবং প্রমাণ করতে পারে যে প্রতিটি উত্তর সেই মডেল থেকেই এসেছে, যা পোস্টে বলা হয়েছে শুধু আউটপুট দেখে যাচাই করা কঠিন। উদ্ধৃতাংশ অনুযায়ী, 4-বিট কোয়ান্টাইজড ওয়েটসহ Llama 4 Maverick (400B-প্যারামিটারের একটি মিক্সচার-অফ-এক্সপার্টস মডেল)-এর ক্ষেত্রে একটি H100 GPU প্রতি সেকেন্ডে প্রায় 110 টোকেনের গতিতে প্রুফ তৈরি করে, এবং প্রতিটি 1,024-টোকেনের অনুরোধের জন্য প্রুফের আকার প্রায় 19 MB।

মূল লেখা পড়ুন ↗

সব এআই রিপোর্ট →