Ripoti za AI · Anthropic · 2026-11-02 · Blogu / maoni
Maendeleo katika uthibitishaji wa hoja za miundo mikubwa ya lugha
Kichwa asilia: Progress on provable inference for large language models
Anthropic inashiriki maendeleo kuhusu uthibitisho wa kriptografia unaotegemea zkSNARK kwa ajili ya makisio ya modeli yanayoweza kuthibitishwa, hasa kupitia mfumo unaoitwa FlashProve. Uthibitisho huo unamwezesha mtoa huduma wa modeli kujitolea kwa modeli fulani na kuthibitisha kwamba kila jibu lilitoka kwayo, jambo ambalo chapisho linasema ni vigumu kulikagua kwa kutumia matokeo pekee. Kulingana na dondoo hilo, kwa Llama 4 Maverick (modeli ya mchanganyiko wa wataalamu yenye vigezo bilioni 400) yenye uzito uliopunguzwa hadi biti 4, GPU moja ya H100 huzalisha uthibitisho kwa kasi ya takriban tokeni 110 kwa sekunde, na ukubwa wa uthibitisho ni takriban MB 19 kwa kila ombi la tokeni 1,024.