Informes de IA · GovAI (Oxford) · 2026-10-17 · Artículo de investigación
Gobernanza técnica de la IA Infraestructura para agentes de IA Enero de 2025 Artículo de investigación Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
Título original: Technical AI Governance Infrastructure for AI Agents January 2025 Research Paper Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
A medida que los agentes de IA planifican y ejecutan tareas cada vez más en entornos abiertos, los autores sostienen que las herramientas existentes son insuficientes para gestionar sus riesgos. Proponen la «infraestructura de agentes», es decir, sistemas técnicos y protocolos compartidos externos a los agentes que median sus interacciones e impactos. Los autores identifican tres funciones: atribuir acciones a agentes o usuarios específicos, dar forma a las interacciones de los agentes, y detectar y remediar las acciones dañinas.