IA e os Problemas Difíceis do Mundo · Ciência da computação teórica · arXiv · 2026-10-26
Uma Teoria Matemática da Lente Jacobiana
Título original: A Mathematical Theory of the Jacobian Lens
A lente Jacobiana (J-lens), uma ferramenta de interpretabilidade da Anthropic, detectou direções semelhantes à memória de trabalho em modelos de linguagem, mas não estava claro por que essas características eram detectáveis. Os autores apresentam uma teoria matemática mostrando que a J-lens identifica preferencialmente características coerentes, cujas perturbações se amplificam ao longo das camadas e permanecem consistentes entre posições de tokens e contextos. Eles validaram isso em um filtro de Bayes e em um transformer de brinquedo que prevê tokens a partir de um modelo oculto de Markov, em que alterar parâmetros que modificam a coerência das características mudou a resposta da J-lens conforme previsto.