AI और दुनिया की कठिन समस्याएँ · सैद्धांतिक कंप्यूटर विज्ञान · Anthropic · 2026-10-07

स्वचालित शोधकर्ता alignment विफलताओं को भरोसेमंद ढंग से कम कर सकते हैं

मूल शीर्षक: Automated researchers can reliably mitigate alignment failures

Anthropic ने Claude से स्वायत्त रूप से ऐसे मॉडल प्रशिक्षित करवाए जो alignment विफलता की 10 श्रेणियों को कवर करने वाले सार्वजनिक बेंचमार्क पर प्रदर्शन सुधारें। सभी 10 श्रेणियों के लिए Claude ने ऐसे समाधान खोजे जिन्होंने सामान्य क्षमताओं को घटाए बिना लक्षित बेंचमार्क स्कोर बढ़ाए। इस कार्य का उद्देश्य है कि जैसे-जैसे AI, AI को बनाने में अधिक मदद करे, सुरक्षा अनुसंधान भी उसकी गति के साथ चलता रहे।

मूल लेख पढ़ें ↗

सभी आइटम →