AIが解く世界の難問 · 計算機科学の理論 · Anthropic · 2026-09-28
モデルが生成した評価による言語モデルの振る舞いの発見
原題: Discovering behaviors with model-written evaluations
人手で評価データを作るには時間と費用がかかり、既存のデータも常にあるとは限らない。本研究では言語モデル自身に評価データを自動生成させ、154のデータセットを作成した。その結果、モデルが大きくなるほど迎合（ユーザーの望む答えを繰り返すこと）や資源獲得への願望が強まるなど、性能が逆に悪化する事例が見つかり、RLHFを重ねると政治的見解が強まる例も確認された。