IA e os Problemas Difíceis do Mundo · Ciência da computação teórica · Anthropic · 2026-09-28
Princípios específicos versus gerais para a IA Constitucional
Título original: Specific versus general principles for Constitutional AI
O estudo examina se a IA Constitucional, que usa feedback de IA baseado em princípios escritos, consegue aprender a partir de um único princípio amplo. Os autores testaram o princípio 'faça o que é melhor para a humanidade' e constataram que os maiores modelos de diálogo o generalizaram em assistentes inofensivos, sem interesse declarado em poder. Princípios mais detalhados ainda proporcionaram um controle mais fino sobre tipos específicos de dano.