ИИ и сложнейшие проблемы мира · Науки о жизни · arXiv · 2026-10-23
Важность признаков на основе гейтов в симуляционном выводе для ЭЭГ: предостерегающая история
Оригинальное название: Gate-Based Feature Importance in Simulation-Based Inference for EEG: A Cautionary Tale
Вывод на основе симуляций подгоняет механистические модели под данные, но почти не даёт понимания того, какая информация определяет выведенные параметры. В исследовании проверялось, отражают ли обученные веса затворов признаков их важность: использовалась нейронная апостериорная оценка четырёх физиологических параметров модели Jansen-Rit с сравнением с эталоном на основе абляции с переобучением. По девяти обучающим сидам важность на основе затворов и важность на основе абляции были отрицательно коррелированы (ро Спирмена около -0.61 для сигмоидного и -0.56 для softmax-гейтинга), а суммарная мощность сигнала — наиболее важный признак по абляции — оказалась среди признаков, веса которых затворы занижали сильнее всего. Это требует осторожности при трактовке обученных весов затворов как причинной важности признаков.