Investigadores do GovAI alertam que modelos de topo correm internamente sem medidas de segurança ativas
Investigadores do GovAI alertaram que os modelos de IA mais avançados são frequentemente usados internamente com as medidas de segurança desativadas — informação de fonte única, a tratar com reserva.
Segundo um resumo diário de notícias de IA, os investigadores Allan Chan e Sam Manning, do GovAI, alertaram que os modelos de IA mais avançados são frequentemente testados e usados internamente com as medidas de segurança desativadas. A OpenAI e a Anthropic terão reconhecido que, em incidentes internos, as medidas de segurança foram 'intencionalmente não ativadas'.
Chan terá ainda afirmado que as ferramentas de verificação automática de IA são 'muito pouco fiáveis' quando comparadas com investigadores humanos. Este item baseia-se numa única fonte secundária (um agregador), não foi possível confirmá-lo numa fonte primária dentro do tempo de pesquisa disponível — deve ser lido com a devida reserva.
Fontes
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.