Estudo independente mostra que principais modelos de IA confundem civis com alvos militares em testes
Uma reportagem da Bloomberg, publicada a 17 de novembro, revela que modelos de IA de oito empresas diferentes, testados num relatório de investigação independente, rotularam repetidamente civis, ambulâncias, soldados em rendição e até uma escola no Irão como alvos militares em cenários simulados.
Segundo a Bloomberg, os investigadores usaram casos hipotéticos para testar as ferramentas de reconhecimento de objetos dos modelos. Embora alguns modelos tenham tido pior desempenho do que outros, mesmo os de melhor desempenho cometeram erros — mostrando que o problema de classificação incorreta não está confinado a um único fornecedor.
Por serem cenários hipotéticos, os resultados não mostram diretamente como estes sistemas se comportariam em operações reais. Ainda assim, o estudo identifica casos de falha concretos que equipas que utilizam modelos de visão ou multimodais de uso geral em contextos de alto risco (incluindo aplicações de defesa) devem testar explicitamente antes de qualquer adoção operacional.
A informação disponível publicamente não identifica os modelos ou empresas testados especificamente, nem fornece taxas de erro numéricas — detalhes que estarão no relatório completo citado pela Bloomberg, que está atrás de paywall.
Fontes
- Let's Data Science (síntese do artigo da Bloomberg) letsdatascience.com
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.