KI und die schwierigen Probleme der Welt · Theoretische Informatik · Anthropic · 2026-10-13
Den Geist eines großen Sprachmodells kartieren
Originaltitel: Mapping the mind of a large language model
Forscher haben identifiziert, wie Millionen von Konzepten in Claude Sonnet repräsentiert werden, einem im Produktivbetrieb eingesetzten Sprachmodell, und beschreiben dies als den ersten detaillierten Einblick in ein Modell dieser Art. Der interne Zustand des Modells ist eine lange Liste von Neuronenaktivierungen ohne klare Bedeutung, wobei jedes Konzept über viele Neuronen verteilt ist. Aufbauend auf früheren Arbeiten, die Dictionary Learning nutzten, um Aktivierungsmuster Konzepten zuzuordnen, sagt das Team, dies könne künftig dazu beitragen, KI-Modelle sicherer zu machen.