La IA y los problemas difíciles del mundo · Informática teórica · Anthropic · 2026-10-13
Cartografiando la mente de un modelo de lenguaje de gran tamaño
Título original: Mapping the mind of a large language model
Los investigadores identificaron cómo se representan millones de conceptos dentro de Claude Sonnet, un modelo de lenguaje desplegado de nivel de producción, lo que describen como la primera mirada detallada al interior de un modelo de este tipo. El estado interno del modelo es una larga lista de activaciones de neuronas sin un significado claro, y cada concepto se reparte entre muchas neuronas. Basándose en trabajos anteriores que usaron aprendizaje de diccionarios para asociar patrones de activación con conceptos, el equipo afirma que esto podría ayudar a que los modelos de IA sean más seguros en el futuro.