La IA y los problemas difíciles del mundo · Lingüística · arXiv · 2026-10-22
Estructura de clase de palabra y de tipo construcción emerge en representaciones de sucesor neuronales entrenadas en lenguaje natural
Título original: Word-Class and Construction-Like Structure Emerges in Neural Successor Representations Trained on Natural Language
Investigadores entrenaron una red residual sobre WikiText-103 para predecir representaciones de sucesores en tres horizontes sin supervisión de categorías gramaticales, comprobando si las representaciones predictivas recuperan la estructura lingüística. En el horizonte más corto, el agrupamiento recuperó de forma fiable sustantivos, verbos y adjetivos; un análisis más fino también reveló grupos semántico-funcionales que cruzan las fronteras entre clases de palabras y relaciones que trazan construcciones candidatas de fechas, medidas y nombres de títulos.