Relatórios de IA · GovAI (Oxford) · 2026-10-17 · Artigo de pesquisa
AI Lab Policy Model Evaluation for Extreme Risks Maio de 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. As abordagens atuais para construir sistemas de uso geral
Título original: AI Lab Policy Model Evaluation for Extreme Risks May 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Current approaches to building general-pu
O artigo explica por que a avaliação de modelos é fundamental para lidar com os riscos extremos de IAs de uso geral, que podem ter capacidades tanto benéficas quanto prejudiciais. Os desenvolvedores precisam identificar capacidades perigosas por meio de "avaliações de capacidades perigosas" e a propensão dos modelos a usar essas capacidades para causar danos por meio de "avaliações de alinhamento". Essas avaliações serão fundamentais para orientar os formuladores de políticas e as decisões sobre treinamento, implantação e segurança de modelos.