Informes de IA · GovAI (Oxford) · 2026-10-17 · Artículo de investigación
Política de laboratorios de IA Evaluación de modelos para riesgos extremos Mayo de 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Los enfoques actuales para construir sistemas de propósito gener
Título original: AI Lab Policy Model Evaluation for Extreme Risks May 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Current approaches to building general-pu
El artículo explica por qué la evaluación de modelos es fundamental para abordar los riesgos extremos de la IA de propósito general, que puede tener capacidades tanto beneficiosas como perjudiciales. Los desarrolladores deben identificar las capacidades peligrosas mediante «evaluaciones de capacidades peligrosas» y la propensión de los modelos a aplicar esas capacidades para causar daño mediante «evaluaciones de alineación». Estas evaluaciones serán fundamentales para informar a los responsables políticos y para las decisiones sobre el entrenamiento, el despliegue y la seguridad de los modelos.