IA e os Problemas Difíceis do Mundo · Ciência da computação teórica · arXiv · 2026-10-23
Classificação sensível à fragilidade para caracterização de risco e aprendizado robusto
Título original: Fragility-aware Classification for Risk Characterization and Robust Learning
A acurácia e a AUC não captam o tamanho dos erros de julgamento feitos com alta confiança, o que é relevante em contextos críticos para a segurança. Os autores propõem o Índice de Fragilidade (Fragility Index, FI), uma métrica avessa ao risco para o risco de cauda desses erros, junto com um framework treinável e um regularizador para redes profundas. Em dados reais de diagnóstico médico, o FI revelou um risco de erro que a acurácia e a AUC não detectaram, e os modelos baseados em FI mantiveram acurácia competitiva com FI menor e custo operacional médio menor do que a minimização do risco empírico padrão em um fluxo de trabalho simulado entre humanos e IA.