Отчёты по ИИ · GovAI (Oxford) · 2026-10-17 · Научная статья
Техническое управление ИИ Инфраструктура для ИИ-агентов Январь 2025 Научная статья Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
Оригинальное название: Technical AI Governance Infrastructure for AI Agents January 2025 Research Paper Alan Chan, Kevin Wei, Sihao Huang, Nitarshan Rajkumar, Elija Perrier, Seth Lazar, Gillian K. Hadfield, Markus Anderljun
По мере того как ИИ-агенты всё чаще планируют и выполняют задачи в открытых средах, авторы утверждают, что существующих инструментов недостаточно для управления связанными с ними рисками. Они предлагают «инфраструктуру агентов» — технические системы и общие протоколы, внешние по отношению к агентам, которые опосредуют их взаимодействия и влияние. Авторы выделяют три функции: привязку действий к конкретным агентам или пользователям, формирование взаимодействий агентов и обнаружение и устранение вредных действий.