KI und die schwierigen Probleme der Welt · Lebenswissenschaften · arXiv · 2026-10-23
Gate-basierte Merkmalswichtigkeit in simulationsbasierter Inferenz für EEG: Eine Warnung
Originaltitel: Gate-Based Feature Importance in Simulation-Based Inference for EEG: A Cautionary Tale
Simulationsbasierte Inferenz passt mechanistische Modelle an Daten an, bietet aber nur wenig Einblick, welche Information die inferierten Parameter bestimmt. Die Studie untersuchte, ob gelernte Feature-Gate-Gewichte die Wichtigkeit von Merkmalen widerspiegeln, und nutzte dafür neuronale Posterior-Schätzung von vier physiologischen Parametern des Jansen-Rit-Modells im Vergleich mit einem Ablations-Benchmark auf Basis erneuten Trainings. Über neun Trainings-Seeds hinweg waren die Gate-basierte und die Ablations-basierte Wichtigkeit negativ korreliert (Spearmans rho etwa -0,61 für Sigmoid- und -0,56 für Softmax-Gating), und die Gesamtsignalleistung, laut Ablation das wichtigste Merkmal, gehörte zu den von den Gates am stärksten herabgewichteten. Dies mahnt zur Vorsicht, gelernte Gate-Gewichte als kausale Merkmalswichtigkeit zu interpretieren.