AI اور دنیا کے مشکل مسائل · نظریاتی کمپیوٹر سائنس · arXiv · 2026-10-19

انکار کا مطلب مضبوطی نہیں: آٹو ریگریسو لینگویج ماڈلز میں نقصان دہ رسائی پذیری کی پیمائش

اصل عنوان: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models

جیل بریک پر مبنی حفاظتی جائزے عموماً حملے کی کامیابی کی شرح (ASR) بتاتے ہیں، جو صرف نمونہ شدہ آؤٹ پٹس کو دیکھتی ہے اور محفوظ جواب کے نیچے ممکن رہنے والے نقصان دہ تخلیقی راستوں کو نظرانداز کر دیتی ہے۔ مصنفین محدود تسلسل تجزیہ پیش کرتے ہیں، جو تخلیق کو ایک امکانی عمل کے طور پر ماڈل کرتا ہے اور درست امکانی ماڈل چیکنگ کے ذریعے نقصان دہ تسلسل تک پہنچنے کا محدود افق کا امکان نکالتا ہے۔ چار انسٹرکشن ٹیونڈ LLMs اور JailbreakBench کے 100 رویّوں پر، یہ ان ماڈلز میں فرق کرتا ہے جو ASR کے تحت یکساں دکھائی دیتے ہیں اور ریڈ ٹیمنگ کی کوششوں کو سمت دینے میں مدد دیتا ہے۔

اصل تحریر پڑھیں ↗

تمام آئٹمز →