AI اور دنیا کے مشکل مسائل · نظریاتی کمپیوٹر سائنس · Anthropic · 2026-09-28
Constitutional AI کے لیے مخصوص بمقابلہ عمومی اصول
اصل عنوان: Specific versus general principles for Constitutional AI
یہ مطالعہ جانچتا ہے کہ آیا Constitutional AI، جو تحریری اصولوں پر مبنی AI فیڈبیک استعمال کرتا ہے، کسی ایک وسیع اصول سے سیکھ سکتا ہے۔ مصنفین نے 'وہ کرو جو انسانیت کے لیے بہترین ہو' کے اصول کو آزمایا اور پایا کہ سب سے بڑے ڈائیلاگ ماڈلز نے اسے عام کر کے ایسے بے ضرر معاونین بنائے جنہوں نے طاقت میں کسی دلچسپی کا اظہار نہیں کیا۔ مزید تفصیلی اصولوں نے پھر بھی نقصان کی مخصوص اقسام پر زیادہ باریک کنٹرول دیا۔