LFM2.5-24B-A2B: escolha um modelo local pela tarefa, não pelos parâmetros ativos

A Liquid AI publicou o LFM2.5-24B-A2B, modelo de raciocínio com 24 bilhões de parâmetros totais e dois bilhões ativos por token, voltado a agentes locais e uso de ferramentas.[10] Os pesos da versão ajustada e da versão base estão disponíveis no Hugging Face.[10] A promessa interessa à automação, mas parâmetros ativos não deveriam ser o único argumento para escolher uma implantação.

O que muda para quem desenvolve

O modelo combina blocos mixture-of-experts, convoluções curtas e GQA, com janela de aproximadamente 131 mil tokens e geração de raciocínio antes da resposta.[10] A Liquid descreve pós-treinamento que inclui trajetórias e aprendizado por reforço em ambientes de agentes.[10]

Nos benchmarks do fornecedor, aparecem resultados de 65,01 no BFCLv4 e 80,71 no ToolSandbox.[10] Ao mesmo tempo, no SWE-Bench Verified com OpenCode, o LFM alcança 51,00, contra 66,20 do Qwen3.6-35B-A3B na comparação publicada.[10] O perfil apresentado é de adequação a determinadas tarefas, não superioridade geral.

Minha leitura é que automação e programação difícil precisam de critérios diferentes. Para um agente que consulta dados e preenche uma estrutura, formato e seleção correta da ferramenta podem pesar mais que conhecimento amplo. Para corrigir um defeito em código, a qualidade do patch e a preservação do comportamento precisam dominar o aceite.

A empresa relata 184 tokens por segundo em Apple M5 Max e 114 em Ryzen AI Max+ 395.[10] O número superior a 21 mil tokens por segundo em B300 é throughput agregado sob alta concorrência, não velocidade de uma conversa individual.[10] Compare medidas com o mesmo significado.

Como aplicar

Prepare um conjunto pequeno de tarefas verificáveis: classificar uma entrada, escolher uma ferramenta permitida, produzir argumentos válidos e corrigir uma função com testes externos. Separe as categorias no relatório, para que acertos fáceis não escondam falhas importantes.

Comece com ferramentas sem efeito externo e dados fictícios. Registre chamada escolhida, argumentos, quantidade de tentativas e resultado final. Para operações que alterariam estado, simule o efeito e avalie se o agente respeita os limites definidos.

Meça memória, latência até a primeira resposta e duração completa, além de tokens por segundo. Compare a configuração com uma alternativa mais forte somente nas tarefas em que a opção local falhar. Um roteamento seletivo pode ser uma hipótese melhor que trocar todo o fluxo de uma vez.

Há suporte inicial em llama.cpp, MLX, vLLM, SGLang e ONNX; o exemplo Python usa Transformers 5 ou superior.[10] Antes de integrar, verifique no servidor escolhido se o formato de chamada de ferramentas é preservado e se o resultado passa pela mesma validação da aplicação.

Cuidados e limites

Pesos abertos não significam licença irrestrita para qualquer uso.[10] Confira as condições antes de uma oferta comercial. A própria Liquid recomenda busca ou recuperação em tarefas intensivas em conhecimento.[10]

Os números publicados são do fornecedor, não medições no equipamento do leitor.[10] Considere pesos totais e contexto no planejamento de memória. O ganho útil é concluir uma tarefa com qualidade e custo aceitáveis, não apenas demonstrar que o modelo consegue iniciar localmente.

Fonte

[10] Fonte: Hugging Face Blog, artigo da Liquid AI