L'IA face aux grands problèmes du monde · Informatique théorique · Anthropic · 2026-10-13
Cartographier l'esprit d'un grand modèle de langage
Titre original: Mapping the mind of a large language model
Des chercheurs ont identifié comment des millions de concepts sont représentés à l'intérieur de Claude Sonnet, un modèle de langage déployé en production, ce qu'ils décrivent comme le premier aperçu détaillé de l'intérieur d'un modèle de ce type. L'état interne du modèle est une longue liste d'activations de neurones sans signification claire, et chaque concept est réparti sur de nombreux neurones. S'appuyant sur des travaux antérieurs qui utilisaient l'apprentissage de dictionnaire pour associer des motifs d'activation à des concepts, l'équipe affirme que cela pourrait contribuer à rendre les modèles d'IA plus sûrs à l'avenir.