AIが解く世界の難問 · 計算機科学の理論 · Anthropic · 2026-09-28
Constitutional AIにおける具体的な原則と一般的な原則
原題: Specific versus general principles for Constitutional AI
人間のフィードバックの代わりに、書かれた原則に基づくAIのフィードバックで学習するConstitutional AIについて調べた。「人類にとって最善のことをせよ」という一つの一般的な原則だけでも、最大規模の対話モデルは無害なアシスタントとして振る舞えるようになり、権力への特定の関心を示さなくなった。一方、より詳細な原則は特定の種類の有害性をより細かく制御するのに有効である。