Thinking Machines Lab lança o Inkling 2 Mini, modelo aberto pensado para correr em computadores locais
A Thinking Machines Lab, laboratório fundado por ex-investigadores da OpenAI, lançou o Inkling 2 Mini, um modelo de mistura de especialistas (MoE) de pesos abertos otimizado para correr em portáteis comuns.
Segundo o resumo diário da aitoolly.com e o blogue da Hugging Face, o Inkling 2 Mini é um modelo MoE com 26,4 mil milhões de parâmetros totais e 3,4 mil milhões de parâmetros ativos, cujo checkpoint de 20 GB corre num portátil normal.
A versão Mini lidera os modelos de pesos abertos com menos de 100 mil milhões de parâmetros no benchmark de programação DeepSWE v1.1, com 48,2% de acerto, segundo os dados divulgados pela comunidade. É uma versão mais pequena do Inkling 2 Small (594 mil milhões de parâmetros totais, 17 mil milhões ativos), lançado anteriormente pela mesma empresa.
Fontes
- Hugging Face blog huggingface.co
- aitoolly.com (digest diário) aitoolly.com
- letsdatascience.com letsdatascience.com
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.