الذكاء الاصطناعي ومشكلات العالم الصعبة · علوم الحاسوب النظرية · Anthropic · 2026-09-28

المبادئ المحددة مقابل المبادئ العامة في الذكاء الاصطناعي الدستوري

العنوان الأصلي: Specific versus general principles for Constitutional AI

تبحث الدراسة فيما إذا كان الذكاء الاصطناعي الدستوري، الذي يستخدم تغذية راجعة من الذكاء الاصطناعي استنادًا إلى مبادئ مكتوبة، قادرًا على التعلم من مبدأ واحد عام. اختبر المؤلفون مبدأ "افعل ما هو أفضل للبشرية" ووجدوا أن أكبر نماذج الحوار عمّمته إلى مساعدين غير ضارين لا يُبدون اهتمامًا معلنًا بالسلطة. ومع ذلك، أتاحت المبادئ الأكثر تفصيلًا تحكمًا أدق في أنواع محددة من الضرر.

اقرأ المصدر الأصلي ↗

جميع العناصر →