AI与世界难题 · 理论计算机科学 · Anthropic · 2026-10-13
描绘大型语言模型的“思维”
原标题: Mapping the mind of a large language model
研究人员确定了数百万个概念在已部署的生产级语言模型 Claude Sonnet 内部是如何被表示的，他们称这是首次对此类模型内部进行详细观察。该模型的内部状态是一长串含义不明的神经元激活，而每个概念都分散在许多神经元中。该团队在早期利用字典学习将激活模式与概念相匹配的工作基础上，表示这有助于未来让 AI 模型更加安全。