AIが解く世界の難問 · 計算機科学の理論 · arXiv · 2026-10-19
拒否は頑健性ではない：自己回帰型言語モデルにおける有害な到達可能性の測定
原題: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
ジェイルブレイクによる安全性評価は通常、攻撃成功率（ASR）で行われるが、ASRはサンプリングされた出力しか見ないため、安全な応答の下に残る有害な生成経路を捉えられない。本研究は、自己回帰生成を確率過程として扱い、有害な続きに到達する有限期間の確率を厳密な確率的モデル検査で計算する有界続き分析（BCA）を提案する。4つの指示調整済みLLMと100のJailbreakBench課題で検証した結果、ASRでは同じに見えるモデルを区別でき、レッドチーミングの重点を定めるのに役立つことが示された。