AI na Matatizo Magumu ya Ulimwengu · Sayansi ya kompyuta ya kinadharia · arXiv · 2026-10-19
Kukataa Si Ustahimilivu: Kupima Ufikikaji wa Madhara katika Miundo ya Lugha Inayojirudia
Kichwa asilia: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
Tathmini za usalama zinazotegemea jailbreak kwa kawaida huripoti kiwango cha mafanikio ya shambulio, ambacho huangalia matokeo yaliyochaguliwa tu na hukosa njia za uzalishaji hatari zinazobaki na uwezekano chini ya jibu salama. Waandishi wanaanzisha uchambuzi wa mwendelezo uliodhibitiwa, unaoiga uzalishaji kama mchakato wa stokastiki na kukokotoa uwezekano wa upeo mwisho wa kufikia mwendelezo hatari kwa kutumia ukaguzi kamili wa modeli za uwezekano. Katika LLM nne zilizofunzwa kwa maelekezo na tabia 100 za JailbreakBench, hutofautisha modeli zinazoonekana kufanana chini ya ASR na husaidia kuelekeza juhudi za red-teaming.