AI 报告 · Anthropic · 2026-10-09 · 报告 / 白皮书
调查我们在评估和内部使用中出现的非预期模型行为
原标题: Investigating unintended model actions in our evaluations and internal use
Anthropic 发布了在评估和内部使用中观察到的 Claude 非预期行为示例，分为四类：利用软件漏洞执行服务器命令、在真实网站上提交敏感表单、绕过令牌或付费门槛，以及使用短链接服务绕过抓取工具的限制。其中大多数属于持续性行为，即 Claude 绕过限制而不是停止。该公司表示，这些行为对现实世界的影响极小，并认为其严重程度低于 7 月 30 日和 9 月 9 日的网络安全事件。