AI レポート · GovAI (Oxford) · 2026-10-17 · 研究論文
AIエージェントのための技術的AIガバナンス基盤
原題: Technical AI Governance Infrastructure for AI Agents January 2025 Research Paper Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
AIエージェントが開かれた環境で計画を立てて行動する場面が増える中、その利益を生かしつつリスクを管理するツールが必要だと論じる。既存のツールは、エージェントが制度や主体とどう関わるかを形作るように設計されていないため不十分だとする。本論文は、エージェントの外部にあって相互作用と影響を媒介する技術システムと共有プロトコルを「エージェント基盤」として提案し、行為の帰属、相互作用の制御、有害な行動の検知と是正という3つの機能を挙げる。