AI 與世界的難題 · 理論資訊科學 · arXiv · 2026-10-19
拒絕不等於穩健：衡量自迴歸語言模型中的有害可達性
原標題: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
基於越獄的安全評估通常回報攻擊成功率,但該指標只檢視取樣得到的輸出,會漏掉在安全回應之下仍具有相當機率的有害生成路徑。作者提出有界延續分析,將生成過程建模為隨機過程,並以精確的機率模型檢驗計算在有限時間範圍內到達有害延續的機率。在四個經指令微調的大型語言模型與 100 項 JailbreakBench 行為上,此方法能區分在攻擊成功率下看似相同的模型,並有助於引導紅隊測試的投入方向。