Investigador da Goodfire questiona a "desordem" interna das redes neuronais
Um investigador da startup de interpretabilidade Goodfire, Nick Cammarata, publicou um ensaio a argumentar que as redes neuronais podem ser mais diretamente compreensíveis do que normalmente se assume, questionando a ideia de que o seu funcionamento interno é necessariamente uma "caixa negra" desordenada.
Em auditorias preliminares ao modelo Qwen3-32B, cerca de 90% dos "polos de neurónios" analisados tinham um papel principal único e identificável, cerca de 7% tinham dois papéis relacionados, e apenas 2% a 4% permaneceram inexplicados. O ensaio propõe o conceito de "generalização recursiva" para descrever este padrão. A reter com reserva: é trabalho preliminar, sem artigo técnico complementar publicado, e não há ainda auditorias à escala de modelos com triliões de parâmetros — os números vêm de uma única fonte secundária, sem confirmação externa.
Até haver um artigo técnico completo e auditorias em modelos muito maiores, estes números devem ser tratados como um indício preliminar, não como resultado estabelecido.
Fontes
- Kingy.ai kingy.ai
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.