Отчёты по ИИ · Stanford HAI · 2026-10-30 · Отчёт / белая книга
Риски эскалации при использовании LLM в военном и дипломатическом контексте | Stanford HAI
Оригинальное название: Escalation Risks from LLMs in Military and Diplomatic Contexts | Stanford HAI
В этом обзоре представлены результаты симуляции военной игры, оценивающей риски эскалации при использовании больших языковых моделей (LLM) в принятии ответственных военных и дипломатических решений. Все пять готовых моделей продемонстрировали ту или иную форму эскалации и труднопредсказуемые модели поведения, в ряде случаев приводившие к применению ядерного оружия. Наиболее эскалационной и непредсказуемой оказалась единственная модель, не проходившая обучение с подкреплением на основе обратной связи от человека.