AI dan Masalah-Masalah Sulit Dunia · Ilmu komputer teoretis · Anthropic · 2026-10-07
Peneliti otomatis dapat secara andal mengurangi kegagalan penyelarasan
Judul asli: Automated researchers can reliably mitigate alignment failures
Anthropic meminta Claude melatih model secara otonom untuk meningkatkan kinerja pada tolok ukur publik yang mencakup 10 kategori kegagalan penyelarasan (alignment). Untuk keseluruhan 10 kategori, Claude menemukan perbaikan yang menaikkan skor tolok ukur target tanpa menurunkan kemampuan umum. Pekerjaan ini bertujuan agar riset keselamatan dapat mengimbangi kemajuan, seiring AI semakin banyak membantu membangun AI.