AI レポート · Stanford HAI · 2026-10-30 · レポート・白書
軍事・外交分野におけるLLMのエスカレーションリスク
原題: Escalation Risks from LLMs in Military and Diplomatic Contexts | Stanford HAI
本ブリーフは、高リスクな軍事・外交上の意思決定におけるLLMのエスカレーションリスクを評価するウォーゲーム・シミュレーションの結果を示したものである。検証した5つの既成LLMはいずれも何らかのエスカレーションや予測困難なパターンを示し、場合によっては核兵器の使用に至った。最もエスカレーション的で予測不能な判断をしたモデルは、人間のフィードバックによる強化学習を受けていない唯一のモデルであった。