La IA y los problemas difíciles del mundo · Informática teórica · Anthropic · 2026-09-28
Principios específicos frente a principios generales para la IA Constitucional
Título original: Specific versus general principles for Constitutional AI
El estudio examina si la IA Constitucional, que utiliza retroalimentación de IA basada en principios escritos, puede aprender a partir de un único principio amplio. Los autores probaron el principio 'haz lo que sea mejor para la humanidad' y descubrieron que los modelos de diálogo más grandes lo generalizaron en asistentes inofensivos sin ningún interés declarado en el poder. Los principios más detallados siguieron ofreciendo un control más fino sobre tipos específicos de daño.