Estudo de interpretabilidade questiona se 'circuitos' de neurónios de IA são realmente únicos
Um artigo submetido ao arXiv a 10 de novembro testa, de forma sistemática, se os pequenos grupos de neurónios apontados como 'causais' num modelo de linguagem são realmente necessários, únicos ou generalizáveis.
O autor testou todos os 4.096 subconjuntos possíveis de 12 neurónios seleccionados num modelo Qwen3-0.6B numa tarefa de capitais de dois passos. Zerar os 12 neurónios reduz a margem da resposta correcta em 27%, mas substituí-los pelos valores de outras perguntas quase não altera a resposta — sugerindo activações praticamente constantes.
Testado também em Llama-3.2-1B e Gemma-3-1B, o efeito transfere-se para reformulações da mesma pergunta mas é muito mais fraco noutras cadeias de raciocínio.
Fontes
- arXiv 2611.13885 arxiv.org
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.