Documentos revelam programa do Exército dos EUA para agentes de IA ofensivos autónomos
Documentos obtidos pelo The Intercept revelam que o Comando Cibernético do Exército dos EUA (ARCYBER) está a desenvolver uma plataforma, com o codinome ECHOTRIBBLE, para transformar agentes de inteligência artificial em armas cibernéticas autónomas.
Segundo a reportagem de Sam Biddle, publicada a 19 de outubro, um documento para contratantes descreve agentes concebidos para 'navegar autonomamente em infraestruturas' e capazes de 'identificar e neutralizar ameaças ou alvos identificados'. O software propaga-se entre dispositivos como um worm, consegue alcançar sistemas em nuvem e sistemas isolados da rede ('air-gapped'), e autodestrói-se depois de cumprir a tarefa.
Embora o Exército possa definir gatilhos iniciais predefinidos, o próprio documento exige que o sistema 'opere com supervisão humana mínima' e exiba 'comportamento autodirigido'. Numa apresentação interna de junho, foi mostrado um cenário hipotético em que o software identifica alvos adicionais numa rede e cria versões adaptadas para iPad, Mac e Windows 11.
Especialistas citados na reportagem mostram-se alarmados: David Krueger, investigador de segurança de IA na Universidade de Montreal, classifica o mandato de 'neutralizar ameaças' de forma autónoma como 'incrivelmente perigoso'; Hyrum Anderson, da empresa de segurança Abundant, questiona se tais ataques poderiam atravessar infraestrutura civil dos EUA, como redes de abastecimento de água. O ARCYBER não respondeu aos pedidos de comentário do The Intercept.
Fontes
- The Intercept theintercept.com
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.