Xiaomi publica relatório técnico do MiMo-V2.6, modelo omni-modal treinado com aprendizagem por reforço em larga escala
A equipa de IA da Xiaomi publicou o relatório técnico do MiMo-V2.6, uma família de modelos omni-modais que escala a aprendizagem por reforço (RL) em lotes maiores, ambientes mais diversos e mais computação dedicada à avaliação das respostas.
O relatório (arXiv:2610.11959), assinado por dezenas de investigadores da "Xiaomi LLM-Core Team", descreve um pré-treino sobre um amplo corpus multimodal seguido de aprendizagem por reforço à escala, construído sobre uma arquitetura híbrida com atenção de janela deslizante.
A equipa escala o treino de RL em três dimensões: lotes maiores e maior throughput (até 1 milhão de tokens de contexto), ambientes mais diversos que cobrem código, tarefas gerais, visão e cibersegurança, e mais computação dedicada à avaliação das respostas.
Para manter a estabilidade do treino, os autores congelam o router da arquitetura de mistura de especialistas e acrescentam camadas de defesa contra "reward hacking" — quando o modelo aprende a explorar falhas na função de recompensa em vez de melhorar genuinamente.
Fontes
- arXiv arxiv.org
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.