IA e os Problemas Difíceis do Mundo · Ciência da computação teórica · Anthropic · 2026-09-28
Rumo à monossemanticidade
Título original: Towards monosemanticity
Neurônios individuais em redes neurais frequentemente carregam vários significados ao mesmo tempo, o que os torna difíceis de interpretar. Usando aprendizado de dicionário, os pesquisadores decompuseram uma camada de transformer de 512 neurônios em mais de 4.000 características, cada uma correspondendo a um padrão de ativações de neurônios. As características representam separadamente coisas como sequências de DNA, linguagem jurídica, requisições HTTP, texto em hebraico e declarações nutricionais, propriedades que não são visíveis ao se observar os neurônios um a um.