Rapports sur l'IA · GovAI (Oxford) · 2026-10-17 · Article de recherche
Politique des laboratoires d'IA Évaluation des modèles pour les risques extrêmes mai 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Les approches actuelles de construction de systèmes d'IA à usage général
Titre original: AI Lab Policy Model Evaluation for Extreme Risks May 2023 Toby Shevlane, Sebastian Farquhar, Ben Garfinkel, Mary Phuong, Jess Whittlestone, Jade Leung, et al. Current approaches to building general-pu
L'article explique pourquoi l'évaluation des modèles est essentielle pour faire face aux risques extrêmes que présentent les IA à usage général, qui peuvent avoir des capacités à la fois bénéfiques et nuisibles. Les développeurs doivent identifier les capacités dangereuses au moyen d'« évaluations des capacités dangereuses » et la propension des modèles à les employer à des fins nuisibles au moyen d'« évaluations d'alignement ». Ces évaluations seront essentielles pour éclairer les décideurs politiques et pour les décisions relatives à l'entraînement, au déploiement et à la sécurité des modèles.