Ir para o conteúdo principal
Voltar aos artigos

Meta lança Muse Glimmer, IA open source que roda offline no seu PC

Meta abriu os pesos do Muse Glimmer, modelo de 30 bilhões de parâmetros que roda localmente numa GPU de consumidor, sem internet e sem assinatura.

·3 min de leitura·21 visualizações

A Meta apresentou nesta segunda-feira (10) o Muse Glimmer, um modelo de inteligência artificial de pesos abertos que roda diretamente no computador do usuário, sem depender de internet, de nuvem ou de assinatura. A proposta é levar tarefas de IA para o PC pessoal, reduzindo a dependência de grandes data centers e de modelos fechados.

O que é o Muse Glimmer

O modelo tem 30 bilhões de parâmetros, é multimodal e foi destilado a partir do Muse, a família de modelos de fronteira da Meta. Os pesos foram liberados publicamente no Hugging Face sob licença Apache 2.0, o que permite não só o uso gratuito, mas também a cópia, a modificação e o uso comercial por qualquer pessoa ou empresa.

O foco do Glimmer é o uso agêntico local: agentes de IA capazes de gerenciar arquivos, escrever código e executar tarefas no computador sem enviar nenhum dado para servidores externos. É a concretização da visão de Mark Zuckerberg de uma "IA pessoal", que acompanha o usuário no próprio dispositivo.

Como ele cabe num PC comum

Um modelo de 30 bilhões de parâmetros em precisão total ultrapassaria 55 GB de memória, algo fora do alcance de máquinas domésticas. A solução foi a quantização de 4 bits, técnica que armazena os dados do modelo em formato numérico mais compacto e reduziu o tamanho para menos de 20 GB. Com isso, o Glimmer cabe em GPUs de consumidor com 24 GB ou 32 GB de VRAM, como a RTX 3090 e a RTX 4090, e também roda em Macs.

Além da quantização, o modelo usa decodificação especulativa DFlash para acelerar a geração de respostas, mantendo desempenho aceitável mesmo fora de infraestrutura profissional. Na prática, qualquer pessoa com uma placa de vídeo gamer razoável consegue executar um agente de IA completo na própria máquina.

Por que isso importa

A estratégia sinaliza uma mudança na corrida da IA. Se modelos capazes rodam localmente com qualidade suficiente, parte da próxima fase da inteligência artificial deixa de acontecer exclusivamente dentro de gigantescos data centers e passa a rodar no notebook de qualquer pessoa. Para empresas, o ganho é de privacidade e custo: dados sensíveis não saem da máquina e não há cobrança por token. Para desenvolvedores, a licença Apache 2.0 remove barreiras jurídicas para criar produtos comerciais em cima do modelo.

Limitações

Nem tudo é festa. A exigência de 24 GB de VRAM ainda restringe o modelo a GPUs de ponta do mercado consumidor, fora da realidade de notebooks básicos. E, por ser um modelo destilado de 30B, ele não deve igualar o desempenho dos modelos de fronteira da própria Meta em tarefas complexas, servindo melhor para automações e agentes do dia a dia do que para raciocínio pesado.

Como isso pode ser útil para você

Se você desenvolve software, o Muse Glimmer abre caminho para montar agentes locais sem custo de API: um assistente que organiza arquivos, revisa código ou automatiza tarefas repetitivas no seu PC, tudo offline e sem vazar dados. No trabalho, é uma alternativa concreta para ambientes com restrição de envio de informações à nuvem, comum em órgãos públicos e empresas reguladas. Como oportunidade de renda, a licença Apache 2.0 permite criar e vender produtos baseados no modelo, como automações sob medida para pequenos negócios que não podem pagar assinaturas de IA em nuvem. Vale testar o download no Hugging Face com ferramentas como llama.cpp ou LM Studio se sua GPU tiver memória suficiente.

Fonte: https://canaltech.com.br/inteligencia-artificial/meta-lanca-ia-que-roda-sem-internet-no-pc-de-qualquer-pessoa/

Continue lendo

Como a Optiver constrói software para operar mercados

A engenharia da Optiver combina baixa latência, inteligência artificial, hardware próprio e responsabilidade integral sobre sistemas críticos.

·29 visualizações

Quando a entrevista técnica pressupõe acesso pago à IA

Avaliar candidatos pelo uso de ferramentas pagas de IA pode transformar desigualdade financeira em falsa medida de competência técnica.

·16 visualizações