AI 报告 · GovAI (Oxford) · 2026-10-17 · 研究论文
技术性 AI 治理 AI 智能体基础设施 2025年1月 研究论文 Alan Chan、Kevin Wei、Sihao Huang、Nitarshan Rajkumar、Elija Perrier、Seth Lazar、Gillian K. Hadfield、Markus Anderljun
原标题: Technical AI Governance Infrastructure for AI Agents January 2025 Research Paper Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
随着AI智能体越来越多地在开放式环境中规划并执行任务,作者认为现有工具不足以管理其风险。他们提出“智能体基础设施”,即位于智能体之外、用于调节其交互和影响的技术系统与共享协议。作者指出了三项功能:将行为归因于特定的智能体或用户、塑造智能体之间的交互,以及检测并补救有害行为。