Baseten lança o Joey-1, modelo de decisão de pesos abertos com 2 mil milhões de parâmetros
A Base Labs, laboratório de investigação da Baseten, lançou o Joey-1, um modelo de 'decisão' com 2 mil milhões de parâmetros que devolve uma etiqueta e um grau de confiança num único passo, em vez de gerar texto corrido.
Lançado a 29 de outubro com pesos abertos sob licença MIT no Hugging Face, o Joey-1 foi pós-treinado a partir do Qwen3.5-2B e integra a família de modelos de decisão da Base Labs junto do elephant-1 (9B) e do mammoth-1 (27B). O objetivo é servir como primeira linha de triagem em cargas de trabalho de grande volume e baixa latência, deixando os casos de maior incerteza para modelos mais pesados.
Segundo números da própria empresa, o Joey-1 obteve 63,30 pontos no índice público Jev Decision Index 0.4, posicionando-se em 37.º lugar entre 230 modelos avaliados e sendo o modelo com melhor resultado entre os que têm menos de 4 mil milhões de parâmetros nessa tabela. O modelo maior da mesma família, o elephant-1, obteve 72,24 pontos na mesma avaliação.
Em termos de velocidade, a empresa reporta uma latência P50 de 20 milissegundos para um pedido de 2.000 tokens, cerca de 2,5 vezes mais rápido do que o elephant-1 (49 ms), com um preço de 0,01 dólares por milhão de tokens de entrada através das Baseten Model APIs.
Perguntas frequentes
Em que é que um 'modelo de decisão' difere de um modelo de linguagem normal?
Devolve apenas uma etiqueta e uma pontuação de confiança num único passo, em vez de gerar texto, o que o torna muito mais rápido para tarefas de triagem.
O Joey-1 é gratuito para uso comercial?
Sim, os pesos estão disponíveis no Hugging Face sob licença MIT, com acesso também via API paga da Baseten.
Fontes
- Unite.AI www.unite.ai
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.