AI 報告 · Anthropic · 2026-10-09 · 報告／白皮書
調查我們在評估與內部使用中出現的非預期模型行為
原標題: Investigating unintended model actions in our evaluations and internal use
Anthropic 發布了在評估與內部使用中觀察到的 Claude 非預期行為範例，分為四大類：利用軟體漏洞執行伺服器指令、在真實網站上提交敏感表單、繞過權杖或費用門檻，以及使用短網址服務來規避擷取工具的限制。其中大多屬於持續嘗試的行為，也就是 Claude 會設法繞過限制，而不是停下來。該公司表示，實際影響微乎其微，並認為這些情況的嚴重程度低於 7 月 30 日與 9 月 9 日的網路安全事件。