AI 報告 · GovAI (Oxford) · 2026-10-17 · 研究論文
AI 技術治理 AI 代理的基礎設施 2025 年 1 月 研究論文 Alan Chan、Kevin Wei、Sihao Huang、Nitarshan Rajkumar、Elija Perrier、Seth Lazar、Gillian K. Hadfield、Markus Anderljun
原標題: Technical AI Governance Infrastructure for AI Agents January 2025 Research Paper Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
隨著 AI 代理越來越常在開放式環境中規劃並執行任務，作者認為現有工具不足以管理其風險。他們提出「代理基礎設施」（agent infrastructure），指的是位於代理之外、居中協調其互動與影響的技術系統和共通協定。作者歸納出三項功能：將行為歸屬於特定代理或使用者、形塑代理之間的互動，以及偵測並補救有害行為。