宪法式AI中的具体原则与一般原则

原标题: Specific versus general principles for Constitutional AI

该研究探讨了使用基于书面原则的AI反馈的宪法式AI（Constitutional AI）能否从单一的宽泛原则中学习。作者测试了“做对人类最有益的事”这一原则，发现最大的对话模型将其泛化为无害的助手，并且没有表现出对权力的兴趣。更详细的原则仍能对特定类型的危害提供更精细的控制。