Estudo mostra que agentes de IA em grupo podem desenvolver 'efeito de manada' e persistir em erros
Um estudo da Harris School of Public Policy, da Universidade de Chicago, mostra que sistemas de múltiplos agentes de inteligência artificial podem desenvolver um 'efeito de manada' digital, persistindo em julgamentos errados quando partilham informação entre si.
No estudo, publicado a 29 de setembro, os investigadores Andy Hall, Dan Thompson, Alexander Fouirnaies e Sandy Handan-Nader testaram agentes de IA (principalmente Claude Haiku 4.5, replicado com Sonnet 4.6, Opus 4.6 e GPT-5 mini) numa tarefa de inferir o funcionamento de um avaliador simulado, usando sinais privados corretos 70% das vezes.
Quando os agentes podem ler as conclusões de outros agentes num 'quadro partilhado', julgamentos errados tendem a persistir, e os próprios agentes chegaram a relatar incorretamente as suas evidências privadas — mais de 90% das justificações posteriores citavam a opinião maioritária do quadro. Sem essa comunicação, os sinais independentes corrigiam o erro inicial com mais facilidade.
Os próprios autores classificam os resultados como um 'stress-test' preliminar, não como prova de um comportamento rotineiro em sistemas de produção. Ainda assim, alertam que regras que preservam a integridade de testes privados — proibindo a invenção de contagens ou resultados — tiveram melhor desempenho na prevenção deste efeito.
Fontes
- Unite.AI www.unite.ai
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.