الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · Anthropic · 2026-10-09

المصنّفات الدستورية

العنوان الأصلي: Constitutional Classifiers

لا يزال من الممكن اختراق حماية النماذج اللغوية الكبيرة (jailbreak)، أي أن يتجاوز المستخدمون ضوابط الأمان فيها للحصول على مخرجات ضارة. اقترح فريق أبحاث الضمانات في Anthropic دفاعاً قائماً على المصنّفات الدستورية، وهي مصنّفات للمدخلات والمخرجات. صمد نموذج أولي أمام آلاف الساعات من الاختبار الهجومي البشري بحثاً عن اختراقات شاملة، لكنه سجّل معدلات رفض مفرطة مرتفعة وحملاً حسابياً إضافياً. أظهرت نسخة محدّثة متانة مماثلة في التقييمات الاصطناعية، مع ارتفاع طفيف في معدلات الرفض بنسبة 0.38% فقط وحمل حسابي إضافي معتدل.

اقرأ المصدر الأصلي ↗

جميع العناصر →