L'IA face aux grands problèmes du monde · Informatique théorique · Anthropic · 2026-09-28
Principes spécifiques versus généraux pour l'IA constitutionnelle
Titre original: Specific versus general principles for Constitutional AI
L'étude examine si l'IA constitutionnelle, qui utilise un retour d'IA fondé sur des principes écrits, peut apprendre à partir d'un seul principe général. Les auteurs ont testé le principe « faire ce qui est le mieux pour l'humanité » et ont constaté que les plus grands modèles de dialogue le généralisaient en assistants inoffensifs sans intérêt déclaré pour le pouvoir. Des principes plus détaillés offraient néanmoins un contrôle plus fin sur des types de préjudices spécifiques.