Rapports sur l'IA · GovAI (Oxford) · 2026-10-17 · Article de recherche
Gouvernance technique de l'IA Infrastructure pour les agents d'IA Janvier 2025 Article de recherche Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
Titre original: Technical AI Governance Infrastructure for AI Agents January 2025 Research Paper Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
Alors que les agents d'IA planifient et exécutent de plus en plus de tâches dans des environnements ouverts, les auteurs estiment que les outils existants sont insuffisants pour gérer leurs risques. Ils proposent une « infrastructure d'agents », c'est-à-dire des systèmes techniques et des protocoles partagés externes aux agents, qui médiatisent leurs interactions et leurs impacts. Les auteurs identifient trois fonctions : attribuer les actions à des agents ou utilisateurs précis, façonner les interactions des agents, et détecter et corriger les actions nuisibles.