ИИ и сложнейшие проблемы мира · Науки о жизни · Anthropic · 2026-10-13
Глобальное рабочее пространство в языковых моделях
Оригинальное название: A global workspace in language models
В статье приводятся свидетельства того, что у Claude сформировалось различие, схожее с «осознанно доступной» обработкой в мозге человека. У него есть небольшой набор внутренних нейронных паттернов, названный J-пространством и найденный с помощью метода на основе якобиана, которые играют особую роль по сравнению с остальной его обработкой. Каждый паттерн связан со словом и сигнализирует, что это слово «на уме» у модели, а не что оно выводится, причём J-пространство возникло в ходе обучения, а не было задано при проектировании.