Novo método de pós-treino promete manter o raciocínio de LLMs com 450 vezes menos computação
Um novo método de pós-treino para raciocínio em LLMs afirma manter ou melhorar o desempenho usando apenas cerca de 0,22% do orçamento de computação de um ajuste fino supervisionado completo — mais de 450 vezes menos.
Os autores tratam a cadeia de raciocínio de um modelo-professor como um entre muitos caminhos possíveis, construindo árvores de raciocínio Monte Carlo para medir incerteza ao nível do processo, usada depois para reduzir drasticamente o corpus de treino. Os resultados mantêm-se consistentes em diferentes famílias de modelos, incluindo com professores "caixa-negra".
Fontes
- arXiv arxiv.org
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.