Отчёты по ИИ · Anthropic · 2026-11-02 · Блог / комментарии
Прогресс в области доказуемого инференса для больших языковых моделей
Оригинальное название: Progress on provable inference for large language models
Anthropic делится прогрессом в области криптографических доказательств на основе zkSNARK для верифицируемого вывода моделей, в основном благодаря системе FlashProve. Эти доказательства позволяют поставщику модели зафиксировать модель и доказать, что каждый ответ получен именно от неё, что, как говорится в публикации, трудно проверить только по выходным данным. Согласно отрывку, для Llama 4 Maverick (модель типа «смесь экспертов» с 400B параметров) с 4-битными квантованными весами один GPU H100 генерирует доказательства со скоростью около 110 токенов в секунду, при этом размер доказательства составляет около 19 МБ на запрос из 1 024 токенов.