AI 與世界的難題 · 生命科學 · arXiv · 2026-10-23
腦電圖模擬式推論中基於閘的特徵重要性：一則警世故事
原標題: Gate-Based Feature Importance in Simulation-Based Inference for EEG: A Cautionary Tale
基於模擬的推論（simulation-based inference）能將機制模型擬合到資料上，但對於是哪些資訊驅動了推論出的參數，幾乎無法提供洞見。本研究使用神經後驗估計來推論 Jansen-Rit 模型的四個生理參數，並與基於重新訓練的消融基準比較，檢驗學習到的特徵閘門權重是否反映特徵重要性。在九個訓練種子中，基於閘門與基於消融的重要性呈負相關（Spearman 的 rho 在 sigmoid 閘門約為 -0.61，在 softmax 閘門約為 -0.56），而總訊號功率這項依消融結果最重要的特徵，卻是被閘門降權最多的特徵之一。這提醒我們，在將學習到的閘門權重解讀為因果特徵重要性時須謹慎。