AI اور دنیا کے مشکل مسائل · نظریاتی کمپیوٹر سائنس · Anthropic · 2026-10-07

خودکار محققین ہم آہنگی کی ناکامیوں کو قابلِ اعتماد طریقے سے کم کر سکتے ہیں

اصل عنوان: Automated researchers can reliably mitigate alignment failures

Anthropic نے Claude سے خودکار طور پر ایسے ماڈلز ٹرین کروائے جو ہم آہنگی (alignment) کی ناکامی کی 10 اقسام پر مشتمل عوامی بینچ مارکس پر کارکردگی بہتر بنائیں۔ تمام 10 اقسام میں Claude نے ایسے حل تلاش کیے جنہوں نے عمومی صلاحیتوں کو کم کیے بغیر ہدف بینچ مارک کے اسکور بڑھا دیے۔ اس کام کا مقصد یہ ہے کہ جیسے جیسے AI، AI بنانے میں زیادہ مدد کر رہا ہے، حفاظتی تحقیق بھی اسی رفتار سے آگے بڑھتی رہے۔

اصل تحریر پڑھیں ↗

تمام آئٹمز →