KI und die schwierigen Probleme der Welt · Theoretische Informatik · arXiv · 2026-10-19
Verweigerung ist keine Robustheit: Messung schädlicher Erreichbarkeit in autoregressiven Sprachmodellen
Originaltitel: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
Jailbreak-basierte Sicherheitsbewertungen berichten üblicherweise die Angriffserfolgsrate, die nur gesampelte Ausgaben betrachtet und schädliche Generierungspfade übersieht, die unterhalb einer sicheren Antwort weiterhin wahrscheinlich bleiben. Die Autoren führen die Bounded Continuation Analysis ein, die die Generierung als stochastischen Prozess modelliert und mithilfe exakten probabilistischen Model Checkings die Wahrscheinlichkeit berechnet, innerhalb eines endlichen Horizonts eine schädliche Fortsetzung zu erreichen. Über vier instruktionsoptimierte LLMs und 100 JailbreakBench-Verhaltensweisen hinweg unterscheidet sie Modelle, die unter ASR identisch aussehen, und hilft, den Red-Teaming-Aufwand zu lenken.