AI और दुनिया की कठिन समस्याएँ · सैद्धांतिक कंप्यूटर विज्ञान · Anthropic · 2026-09-28

Constitutional AI के लिए विशिष्ट बनाम सामान्य सिद्धांत

मूल शीर्षक: Specific versus general principles for Constitutional AI

यह अध्ययन जाँचता है कि क्या Constitutional AI, जो लिखित सिद्धांतों पर आधारित AI फ़ीडबैक का उपयोग करता है, किसी एक व्यापक सिद्धांत से सीख सकता है। लेखकों ने 'मानवता के लिए जो सबसे अच्छा है वही करो' सिद्धांत का परीक्षण किया और पाया कि सबसे बड़े संवाद मॉडलों ने इसे सामान्यीकृत करके हानिरहित सहायक बनाए, जिनकी सत्ता में कोई घोषित रुचि नहीं थी। फिर भी अधिक विस्तृत सिद्धांतों ने विशिष्ट प्रकार की हानि पर बेहतर नियंत्रण दिया।

मूल लेख पढ़ें ↗

सभी आइटम →