Chip de tecnologia antiga roda LLMs de 700B parâmetros com só 240W
A Skymizer lançou um acelerador PCIe que roda modelos de linguagem gigantes localmente, usando chips de 10 anos atrás e consumindo menos da metade da energia do
Uma empresa taiwanesa chamada Skymizer pode ter virado o jogo da inferência local de IA: o HTX301, um acelerador PCIe, consegue rodar modelos de linguagem com até 700 bilhões de parâmetros usando chips de processo 28nm (tecnologia de mais de dez anos) e memória DDR4 comum, consumindo apenas 240 watts. Para comparar, a RTX PRO 6000 Blackwell da Nvidia consome cerca de 600W para tarefas similares.
Contexto técnico
Antes de entrar no hardware, vale alinhar alguns termos:
LLM (Large Language Model) é o tipo de modelo de IA por trás de ferramentas como Claude Opus 4.6, GPT-5.3 e Llama 4. Quanto mais parâmetros o modelo tem, mais poderoso ele tende a ser, mas também mais memória e processamento ele exige.
Inferência é o processo de usar o modelo para gerar respostas. É diferente do treinamento (que é muito mais caro). Quando você chama uma API de IA, está fazendo inferência.
Token é a unidade básica de texto que o modelo processa. Uma palavra costuma ter 1 a 2 tokens. O HTX301 entrega 30 tokens por segundo, o que é razoável para uso local.
KV cache é uma técnica que armazena parte do processamento anterior para acelerar a geração de novas respostas. O HTX301 usa compressão tanto nos pesos do modelo quanto no KV cache, superando o llama.cpp (ferramenta open source de referência) em 9 a 17,8%.
O que torna o HTX301 incomum é a aposta em memória LPDDR4/LPDDR5 em vez de HBM (High Bandwidth Memory), que é o padrão caro usado por GPUs como as da Nvidia. O card empilha 6 chips HTX301 em uma única placa PCIe com 384 GB de memória total, o suficiente para carregar modelos enormes sem precisar de um cluster de GPUs.
Impacto para devs
Se o HTX301 entregar o que promete, muda bastante coisa para quem desenvolve com IA:
Rodar modelos grandes localmente vira acessível. Hoje, um modelo de 70B parâmetros já exige múltiplas GPUs de última geração. Com o HTX301, você poderia ter inferência de modelos tipo Llama 4 ou DeepSeek V3 em um servidor convencional, refrigerado a ar, sem reformar o data center.
Privacidade de dados deixa de ser desculpa para usar cloud. Muitos projetos corporativos não podem mandar dados para APIs externas (saúde, jurídico, financeiro). Ter um acelerador local e acessível resolve esse bloqueio.
Custo de inferência previsível. Em vez de pagar por token em APIs como a da Anthropic ou OpenAI, você amortiza o hardware. Para quem faz muitas chamadas, isso pode ser mais barato a longo prazo.
Agentic AI local. A Skymizer menciona suporte a fluxos de agentes (automação, coding, domínios específicos). Um agente de IA é basicamente um LLM que recebe ferramentas e pode tomar decisões em sequência. Rodar isso on-premises, sem latência de rede, abre possibilidades que hoje dependem de cloud.
Um exemplo prático: imagine um pipeline de code review automatizado que analisa cada PR usando um modelo de 70B localmente, sem mandar seu código para fora da empresa. Hoje isso exigiria hardware de nível data center. Com o HTX301, caberia em um servidor de rack comum.
O ponto de atenção é que os números ainda são declarados pela própria Skymizer. O card será apresentado na Computex 2026, onde testes independentes vão confirmar (ou desmentir) as especificações. O histórico de startups de chip de IA que não cumpriram o prometido é longo.
Mas a direção é clara: a era em que rodar LLMs grandes exigia obrigatoriamente infraestrutura de hyperscaler está sendo questionada, e isso é bom para quem constrói software.