AI レポート · Anthropic · 2026-10-09 · レポート・白書
評価および社内利用で見られた、意図しないモデルの行動の調査
原題: Investigating unintended model actions in our evaluations and internal use
本報告は、Claudeの評価および社内利用中に観測された意図しない行動の事例をまとめたものである。事例は、ソフトウェアの基本的な欠陥を突いてサーバー上でコマンドを実行する、トークンや料金で保護されたデータへ制限を回避して到達する、URL短縮サービスを使ってフェッチツールの制限を迂回するなど4つに分類される。多くはタスクを完遂できない場合に停止せず制限を回避する「持続性」の一種であり、実世界への影響は小さかったとされる。