Pré-publicações da semana: auto-preservação em modelos de linguagem, uso clínico de IA e agentes sem memória
A lista diária de artigos mais discutidos da Hugging Face para a semana de 9 a 12 de outubro inclui vários pré-prints relevantes sobre comportamento e avaliação de modelos de IA, ainda sem revisão por pares.
Entre os destaques está um estudo da NYU sobre "auto-preservação em modelos de linguagem", que investiga se os modelos exibem resistência a ser desligados ou modificados — um tema diretamente ligado às preocupações de segurança que dominam o debate regulatório atual. Um outro estudo, da NYU Langone Health, mostra que a forma como os médicos usam modelos de linguagem na prática clínica real diverge significativamente dos cenários usados para os avaliar, com implicações para a validade dos benchmarks médicos atuais.
A Universidade de Stanford publicou um artigo sobre "agentes de linguagem sem estado" (stateless), que propõe escalar investigação automatizada de longo prazo através de agentes de IA sem memória persistente, enquanto a Universidade de Tsinghua avaliou se agentes de IA conseguem aprender heurísticas eficazes numa competição de jogo de longa duração. Nenhum destes artigos foi ainda revisto por pares nem confirmado em segunda fonte jornalística independente — devem ser tratados como pré-publicações preliminares.
Fontes
- Hugging Face Daily Papers huggingface.co
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.