KI und die schwierigen Probleme der Welt · Theoretische Informatik · arXiv · 2026-10-23
Fragilitätsbewusste Klassifikation zur Risikocharakterisierung und robustes Lernen
Originaltitel: Fragility-aware Classification for Risk Characterization and Robust Learning
Genauigkeit und AUC erfassen nicht, wie groß selbstsichere Fehlurteile sind, was in sicherheitskritischen Anwendungen entscheidend ist. Die Autoren schlagen den Fragility Index vor, eine risikoaverse Metrik für das Tail-Risiko solcher Fehler, sowie ein trainierbares Framework und einen Regularisierer für tiefe neuronale Netze. Bei realen medizinischen Diagnosedaten zeigte der FI ein Fehlerrisiko auf, das Genauigkeit und AUC übersahen, und FI-basierte Modelle behielten eine konkurrenzfähige Genauigkeit bei, bei niedrigerem FI und niedrigeren durchschnittlichen Betriebskosten als die standardmäßige empirische Risikominimierung in einem simulierten Mensch-KI-Workflow.