AI与世界难题 · 生命科学 · arXiv · 2026-10-19
深层 LLM 层在默读过程中揭示 EEG 中的篇章级上下文
原标题: Deep LLM layers expose passage-level context in EEG during silent reading
此前有研究利用 LLM 隐藏状态嵌入,从默读过程中记录的 19 通道 EEG 中解码词级信息。本研究为 Llama-3.1-8B 的每一层分别训练了一个解码器,发现词级可解码性在早期层达到峰值,并向最后一层下降,而上下文追踪能力则随深度增加而上升。对照实验表明,上下文追踪主要跟随文本本身,而非词解码或特定会话的特征,即使单个 0.5 秒的 EEG 窗口也携带段落级信息。