La IA y los problemas difíciles del mundo · Informática teórica · arXiv · 2026-10-23
Clasificación consciente de la fragilidad para la caracterización del riesgo y el aprendizaje robusto
Título original: Fragility-aware Classification for Risk Characterization and Robust Learning
La exactitud y el AUC no captan la magnitud de los errores de juicio cometidos con alta confianza, algo que importa en entornos críticos para la seguridad. Los autores proponen el Índice de Fragilidad (Fragility Index, FI), una métrica aversa al riesgo para el riesgo de cola de tales errores, junto con un marco entrenable y un regularizador para redes profundas. En datos reales de diagnóstico médico, el FI reveló un riesgo de error que la exactitud y el AUC pasaron por alto, y los modelos basados en FI mantuvieron una exactitud competitiva con un FI menor y un coste operativo medio más bajo que la minimización estándar del riesgo empírico en un flujo de trabajo simulado entre humanos e IA.