AIが解く世界の難問 · 計算機科学の理論 · arXiv · 2026-10-26
ヤコビアン・レンズの数学的理論
原題: A Mathematical Theory of the Jacobian Lens
Anthropicが発表した解釈可能性ツール「ヤコビアン・レンズ（J-lens）」が、どのような性質をもつ特徴を検出するのかは不明であった。本研究では、J-lensの数学的理論を構築し、摂動が層をまたいで増幅し、トークン位置や文脈をまたいで一貫するコヒーレントな特徴を優先的に検出することを示した。ベイズフィルタと簡易トランスフォーマーを隠れマルコフモデルの次トークン予測で検証し、特徴のコヒーレンスを変える課題パラメータの操作に応じてJ-lensの応答が予測どおり変化することを確認した。