ИИ и сложнейшие проблемы мира · Теоретическая информатика · arXiv · 2026-10-23
Классификация с учётом хрупкости для характеристики рисков и устойчивого обучения
Оригинальное название: Fragility-aware Classification for Risk Characterization and Robust Learning
Accuracy и AUC не отражают масштаб уверенных ошибочных предсказаний, что важно в критически значимых для безопасности областях. Авторы предлагают Fragility Index — метрику с неприятием риска для оценки хвостового риска таких ошибок, а также обучаемую схему и регуляризатор для глубоких нейронных сетей. На реальных медицинских диагностических данных FI выявил риск ошибок, который не заметили accuracy и AUC, а модели на основе FI сохранили конкурентоспособную точность при меньшем FI и меньших средних операционных затратах по сравнению со стандартной минимизацией эмпирического риска в смоделированном процессе взаимодействия человека и ИИ.