La IA y los problemas difíciles del mundo · Informática teórica · Anthropic · 2026-09-28
Hacia la monosemanticidad
Título original: Towards monosemanticity
Las neuronas individuales de las redes neuronales suelen portar varios significados a la vez, lo que dificulta su interpretación. Mediante aprendizaje de diccionarios, los investigadores descompusieron una capa de transformer de 512 neuronas en más de 4,000 características, cada una de las cuales corresponde a un patrón de activaciones de neuronas. Las características representan por separado elementos como secuencias de ADN, lenguaje jurídico, solicitudes HTTP, texto en hebreo y declaraciones nutricionales, propiedades que no son visibles al observar las neuronas una por una.