Отчёты по ИИ · GovAI (Oxford) · 2026-10-17 · Научная статья
AI Lab Policy Оценка моделей на предмет экстремальных рисков Май 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung и др. Современные подходы к созданию универсальных
Оригинальное название: AI Lab Policy Model Evaluation for Extreme Risks May 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Current approaches to building general-pu
В статье объясняется, почему оценка моделей критически важна для устранения экстремальных рисков, связанных с ИИ общего назначения, который может обладать как полезными, так и вредными возможностями. Разработчики должны выявлять опасные возможности с помощью «оценок опасных возможностей» и склонность моделей применять эти возможности во вред с помощью «оценок согласованности». Эти оценки будут иметь решающее значение для информирования политиков и для принятия решений об обучении, развертывании и безопасности моделей.