AI और दुनिया की कठिन समस्याएँ · सैद्धांतिक कंप्यूटर विज्ञान · arXiv · 2026-10-19

अस्वीकरण ही मज़बूती नहीं है: ऑटोरिग्रेसिव भाषा मॉडलों में हानिकारक पहुँच-योग्यता का मापन

मूल शीर्षक: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models

जेलब्रेक-आधारित सुरक्षा मूल्यांकन आमतौर पर अटैक सक्सेस रेट रिपोर्ट करते हैं, जो केवल नमूने के रूप में लिए गए आउटपुट देखता है और उन हानिकारक जनरेशन पथों को छोड़ देता है जो सुरक्षित प्रतिक्रिया के नीचे भी संभाव्य बने रहते हैं। लेखक बाउंडेड कंटिन्युएशन विश्लेषण प्रस्तुत करते हैं, जो जनरेशन को एक प्रसंभाव्य प्रक्रिया के रूप में मॉडल करता है और सटीक प्रायिकतात्मक मॉडल चेकिंग द्वारा हानिकारक निरंतरता तक पहुँचने की सीमित-क्षितिज प्रायिकता की गणना करता है। चार इंस्ट्रक्शन-ट्यून्ड LLM और 100 JailbreakBench व्यवहारों में, यह उन मॉडलों में अंतर करता है जो ASR के अंतर्गत एक जैसे दिखते हैं और रेड-टीमिंग प्रयासों को दिशा देने में मदद करता है।

मूल लेख पढ़ें ↗

सभी आइटम →