AIが解く世界の難問 · 計算機科学の理論 · Anthropic · 2026-10-13
大規模言語モデルの内部を地図化する
原題: Mapping the mind of a large language model
研究チームは、本番運用されている大規模言語モデルClaude Sonnetの内部で、数百万の概念がどのように表現されているかを特定した。モデルの内部状態は意味の不明確な数値の並びであり、各概念は多くのニューロンにまたがって表現される。これまでの辞書学習による特徴抽出の成果を踏まえたもので、この知見は将来的にAIモデルの安全性向上に役立つ可能性がある。