الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · arXiv · 2026-10-19

الرفض ليس متانة: قياس إمكانية الوصول إلى المحتوى الضار في نماذج اللغة ذاتية الانحدار

العنوان الأصلي: Refusal Is Not Robustness: Measuring Harmful Reachability in Autoregressive Language Models

تُبلغ تقييمات السلامة القائمة على كسر الحماية عادةً عن معدل نجاح الهجوم، وهو لا ينظر إلا إلى المخرجات المأخوذة كعينات ويغفل مسارات التوليد الضارة التي تظل محتملة تحت استجابة آمنة. يقدّم المؤلفون تحليل الاستمرار المحدود، الذي يصوغ التوليد كعملية عشوائية ويحسب احتمال بلوغ استمرار ضار ضمن أفق منتهٍ باستخدام التحقق الاحتمالي الدقيق من النماذج. وعبر أربعة نماذج لغوية كبيرة مضبوطة بالتعليمات و100 سلوك من JailbreakBench، يميّز بين نماذج تبدو متطابقة وفق معدل نجاح الهجوم ويساعد في توجيه جهود الفريق الأحمر.

اقرأ المصدر الأصلي ↗

جميع العناصر →