Laporan AI · GovAI (Oxford) · 2026-10-17 · Makalah riset
Tata Kelola AI Teknis Infrastruktur untuk Agen AI Januari 2025 Makalah Penelitian Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
Judul asli: Technical AI Governance Infrastructure for AI Agents January 2025 Research Paper Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
Seiring agen AI semakin banyak merencanakan dan menjalankan tugas di lingkungan terbuka, para penulis berargumen bahwa perangkat yang ada tidak memadai untuk mengelola risikonya. Mereka mengusulkan 'infrastruktur agen', yaitu sistem teknis dan protokol bersama di luar agen yang memediasi interaksi dan dampaknya. Para penulis mengidentifikasi tiga fungsi: mengaitkan tindakan dengan agen atau pengguna tertentu, membentuk interaksi agen, serta mendeteksi dan memperbaiki tindakan yang merugikan.