La IA y los problemas difíciles del mundo · Informática teórica · Anthropic · 2026-10-07
Los investigadores automatizados pueden mitigar de forma fiable los fallos de alineación
Título original: Automated researchers can reliably mitigate alignment failures
Anthropic hizo que Claude entrenara de forma autónoma modelos para mejorar el rendimiento en benchmarks públicos que cubren 10 categorías de fallos de alineación. En las 10, Claude encontró correcciones que elevaron las puntuaciones del benchmark objetivo sin degradar las capacidades generales. El trabajo busca que la investigación en seguridad pueda mantener el ritmo a medida que la IA ayuda cada vez más a construir IA.