AI na Matatizo Magumu ya Ulimwengu · Sayansi ya kompyuta ya kinadharia · Anthropic · 2026-10-07
Watafiti wa kiotomatiki wanaweza kupunguza kwa uhakika kushindwa kwa upatanishi
Kichwa asilia: Automated researchers can reliably mitigate alignment failures
Anthropic ilimfanya Claude afunze miundo kwa kujitegemea ili kuboresha utendaji kwenye vipimo vya umma vinavyohusu makundi 10 ya kushindwa kwa upatanishi (alignment). Kwa yote 10, Claude alipata suluhisho zilizoongeza alama za vipimo lengwa bila kupunguza uwezo wa jumla. Kazi hii inalenga kuwezesha utafiti wa usalama kwenda sambamba na kasi ya AI inayozidi kusaidia kujenga AI.