AI 报告 · KPMG · 2026-11-03 · 博客 / 评论
建立对AI的信心
原标题: Building confidence in AI
本文借鉴毕马威（KPMG）与麻省理工学院斯隆管理学院（MIT Sloan）关于AI红队测试的研究，探讨了组织在规模化应用AI过程中的治理、信任和风险管理问题。文章指出，传统的安全测试和控制框架是为可预测的系统设计的，更难适用于AI，因为AI的行为会随模型、数据、提示词和上下文而变化。文章还提到，智能体系统可能走出意料之外的路径，因此部署环境与系统本身同样重要。