Отчёты по ИИ · GovAI (Oxford) · 2026-10-17 · Научная статья
Техническое управление ИИ: наблюдаемость ИИ-агентов. Июнь 2024 г. Научная статья. Alan Chan, Carson Ezell, Max Kaufmann, Kevin Wei, Lewis Hammond, Herbie Bradley, Emma Bluemke, Nitarshan Rajkumar, David Krue
Оригинальное название: Technical AI Governance Visibility into AI Agents June 2024 Research Paper Alan Chan, Carson Ezell, Max Kaufmann, Kevin Wei, Lewis Hammond, Herbie Bradley, Emma Bluemke, Nitarshan Rajkumar, David Krue
По мере того как коммерческие, научные, государственные и личные задачи всё чаще делегируются ИИ-агентам, существующие общественные риски могут возрасти, а новые — появиться. В статье оцениваются три категории мер для повышения прозрачности действий агентов: идентификаторы агентов, мониторинг в реальном времени и журналирование активности. Также анализируется, как они применяются при развёртывании от централизованного до децентрализованного, и обсуждаются последствия для конфиденциальности и концентрации власти.