AI与世界难题 · 理论计算机科学 · arXiv · 2026-10-19
拒绝不等于稳健：衡量自回归语言模型中的有害可达性
原标题: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
基于越狱的安全评估通常报告攻击成功率,但它只关注采样输出,会遗漏在安全回复之下仍然有较大概率出现的有害生成路径。作者提出了有界延续分析,将生成过程建模为随机过程,并利用精确的概率模型检验计算在有限时间范围内到达有害延续的概率。在四个指令微调的 LLM 和 100 个 JailbreakBench 行为上,该方法能够区分在 ASR 下看起来完全相同的模型,并有助于指导红队测试的投入方向。