AI dan Masalah-Masalah Sulit Dunia · Ilmu hayat · arXiv · 2026-10-23
Kepentingan Fitur Berbasis Gerbang dalam Inferensi Berbasis Simulasi untuk EEG: Sebuah Kisah Peringatan
Judul asli: Gate-Based Feature Importance in Simulation-Based Inference for EEG: A Cautionary Tale
Inferensi berbasis simulasi mencocokkan model mekanistik dengan data, tetapi memberikan sedikit wawasan tentang informasi apa yang mendorong parameter yang disimpulkan. Studi ini menguji apakah bobot gerbang fitur yang dipelajari mencerminkan kepentingan fitur, menggunakan estimasi posterior saraf untuk empat parameter fisiologis model Jansen-Rit dan membandingkannya dengan tolok ukur ablasi berbasis pelatihan ulang. Pada sembilan seed pelatihan, kepentingan berbasis gerbang dan berbasis ablasi berkorelasi negatif (rho Spearman sekitar -0.61 untuk gerbang sigmoid dan -0.56 untuk gerbang softmax), dan daya sinyal total, fitur terpenting menurut ablasi, termasuk salah satu yang paling diturunkan bobotnya oleh gerbang. Hal ini menuntut kehati-hatian dalam membaca bobot gerbang yang dipelajari sebagai kepentingan fitur yang bersifat kausal.