L'IA face aux grands problèmes du monde · Informatique théorique · arXiv · 2026-10-23
Classification sensible à la fragilité pour la caractérisation du risque et l'apprentissage robuste
Titre original: Fragility-aware Classification for Risk Characterization and Robust Learning
L'exactitude et l'AUC ne rendent pas compte de l'ampleur des erreurs de jugement commises avec assurance, ce qui est essentiel dans les contextes critiques pour la sécurité. Les auteurs proposent l'indice de fragilité (Fragility Index, FI), une métrique averse au risque pour le risque de queue de ces erreurs, ainsi qu'un cadre entraînable et un régularisateur pour les réseaux profonds. Sur des données réelles de diagnostic médical, le FI a révélé un risque d'erreur que l'exactitude et l'AUC n'avaient pas détecté, et les modèles fondés sur le FI ont conservé une exactitude compétitive avec un FI plus faible et un coût opérationnel moyen inférieur à ceux de la minimisation standard du risque empirique dans un flux de travail simulé humain–IA.