IA e os Problemas Difíceis do Mundo · Ciência da computação teórica · Anthropic · 2026-10-13
Mapeando a mente de um grande modelo de linguagem
Título original: Mapping the mind of a large language model
Pesquisadores identificaram como milhões de conceitos são representados dentro do Claude Sonnet, um modelo de linguagem implantado em nível de produção, o que descrevem como a primeira visão detalhada do interior de um modelo desse tipo. O estado interno do modelo é uma longa lista de ativações de neurônios sem significado claro, e cada conceito está distribuído por muitos neurônios. Com base em trabalhos anteriores que usaram aprendizado de dicionário para associar padrões de ativação a conceitos, a equipe afirma que isso pode ajudar a tornar os modelos de IA mais seguros no futuro.