AI dan Masalah-Masalah Sulit Dunia · Ilmu komputer teoretis · arXiv · 2026-10-19
Penolakan Bukan Ketangguhan: Mengukur Keterjangkauan Konten Berbahaya pada Model Bahasa Autoregresif
Judul asli: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models
Evaluasi keamanan berbasis jailbreak biasanya melaporkan tingkat keberhasilan serangan, yang hanya melihat keluaran yang disampel dan melewatkan jalur pembangkitan berbahaya yang masih mungkin terjadi di balik respons yang aman. Para penulis memperkenalkan analisis kelanjutan terbatas (bounded continuation analysis), yang memodelkan pembangkitan sebagai proses stokastik dan menghitung probabilitas cakrawala-hingga untuk mencapai kelanjutan berbahaya menggunakan pemeriksaan model probabilistik yang eksak. Pada empat LLM hasil instruction-tuning dan 100 perilaku JailbreakBench, metode ini membedakan model yang tampak identik berdasarkan ASR dan membantu mengarahkan upaya red-teaming.