ИИ и сложнейшие проблемы мира · Теоретическая информатика · Anthropic · 2026-10-13
Картирование разума большой языковой модели
Оригинальное название: Mapping the mind of a large language model
Исследователи выяснили, как миллионы концепций представлены внутри Claude Sonnet — развёрнутой в промышленной эксплуатации языковой модели, — и называют это первым подробным взглядом внутрь модели такого рода. Внутреннее состояние модели — это длинный список активаций нейронов без чёткого смысла, а каждая концепция распределена по множеству нейронов. Опираясь на более раннюю работу, где с помощью словарного обучения паттерны активаций сопоставлялись с концепциями, команда считает, что это может помочь сделать модели ИИ безопаснее в будущем.