L'IA face aux grands problèmes du monde · Informatique théorique · arXiv · 2026-10-19
Le refus n'est pas la robustesse : mesurer l'atteignabilité nuisible dans les modèles de langage autorégressifs
Titre original: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
Les évaluations de sécurité fondées sur le jailbreak rapportent généralement le taux de réussite des attaques, qui ne regarde que les sorties échantillonnées et passe à côté des chemins de génération nuisibles qui restent probables sous une réponse sûre. Les auteurs introduisent l'analyse de continuation bornée, qui modélise la génération comme un processus stochastique et calcule la probabilité, à horizon fini, d'atteindre une continuation nuisible grâce à la vérification probabiliste exacte de modèles. Sur quatre LLM ajustés aux instructions et 100 comportements de JailbreakBench, elle distingue des modèles qui paraissent identiques selon le taux de réussite des attaques et aide à orienter l'effort de red teaming.