Laporan AI · GovAI (Oxford) · 2026-10-17 · Makalah riset
Kebijakan Lab AI Evaluasi Model untuk Risiko Ekstrem Mei 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Pendekatan saat ini untuk membangun general-pu
Judul asli: AI Lab Policy Model Evaluation for Extreme Risks May 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Current approaches to building general-pu
Makalah ini menjelaskan mengapa evaluasi model sangat penting untuk menangani risiko ekstrem dari AI serba guna, yang dapat memiliki kemampuan yang bermanfaat sekaligus berbahaya. Pengembang harus mengidentifikasi kemampuan berbahaya melalui 'evaluasi kemampuan berbahaya' dan kecenderungan model untuk menggunakan kemampuan tersebut untuk merugikan melalui 'evaluasi keselarasan'. Evaluasi ini akan sangat penting untuk menginformasikan pembuat kebijakan serta untuk keputusan tentang pelatihan, penerapan, dan keamanan model.