AI 與世界的難題 · 理論資訊科學 · arXiv · 2026-10-26
雅可比透鏡的數學理論
原標題: A Mathematical Theory of the Jacobian Lens
雅可比透鏡（J-lens）是 Anthropic 開發的可解釋性工具，曾在語言模型中偵測到類似工作記憶的方向，但這些特徵為何能被偵測到並不清楚。作者提出一套數學理論，顯示 J-lens 會優先辨識出具一致性的特徵，這類特徵的擾動會隨層數放大，並在不同詞元位置與情境中保持一致。他們在貝氏濾波器，以及根據隱馬可夫模型預測詞元的簡化 Transformer 上驗證了這一點：改變會影響特徵一致性的參數，J-lens 的反應也如預測般隨之改變。