OpenAPPA promete "zero ataques bem-sucedidos" contra fugas de dados de agentes de IA
A Archestra AI lançou o OpenAPPA, um motor de políticas de fluxo de informação de código aberto, com licença MIT, que impõe regras de classificação entre o agente de IA e as ferramentas a que acede, impedindo fugas de dados antes de cada ação.
No benchmark empresarial multi-etapa "Bench-Corp", o sistema alcançou 94,3% de conclusão de tarefas com 100% de taxa de segurança sob prompts padrão; mesmo sob prompts adversariais ("ChaosMonkey"), manteve 91,4% de conclusão e ainda 0% de ataques bem-sucedidos, superando concorrentes como o FIDES.
O projeto está em fase de pré-visualização e pedido de comentários.
Fontes
- GitHub github.com
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.