AI 與世界的難題 · 理論資訊科學 · Anthropic · 2026-10-13
描繪大型語言模型的心智
原標題: Mapping the mind of a large language model
研究人員找出了數百萬個概念在 Claude Sonnet 內部是如何被表示的。Claude Sonnet 是一個已部署、達到正式上線等級的語言模型，研究人員稱這是首次對此類模型內部進行的詳細觀察。模型的內部狀態是一長串沒有明確意義的神經元活化值，而且每個概念都分散在許多神經元之中。研究團隊延續先前利用字典學習將活化模式對應到概念的研究，表示這未來有助於讓 AI 模型更安全。