الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · Anthropic · 2026-10-07
يمكن للباحثين الآليين التخفيف من إخفاقات المواءمة بشكل موثوق
العنوان الأصلي: Automated researchers can reliably mitigate alignment failures
طلبت Anthropic من Claude تدريب نماذج بشكل مستقل لتحسين الأداء على معايير تقييم عامة تغطي 10 فئات من إخفاقات المواءمة. وفي الفئات العشر جميعها، توصّل Claude إلى حلول رفعت درجات المعيار المستهدف دون الإضرار بالقدرات العامة. ويهدف هذا العمل إلى تمكين أبحاث السلامة من مواكبة الوتيرة مع تزايد مساهمة الذكاء الاصطناعي في بناء الذكاء الاصطناعي.