Executar um agente de inteligência artificial sem mandar arquivos, código e outras informações para servidores externos é a proposta do novo Muse Glimmer, modelo de 30 bilhões de parâmetros apresentado pela Meta nesta segunda-feira (10). A empresa conseguiu reduzir o tamanho necessário para executar a IA a menos de 20 GB em uma de suas versões quantizadas, permitindo que o modelo funcione localmente em computadores com uma única GPU compatível.
O lançamento faz parte de uma nova ofensiva da Meta em modelos de pesos abertos. Mark Zuckerberg também afirmou que a companhia pretende disponibilizar os pesos do Muse Spark 1.2, modelo mais poderoso da mesma família. O executivo defendeu publicamente uma distribuição mais ampla da tecnologia de IA, em oposição à concentração dos modelos mais avançados nas mãos de poucas empresas e instituições.
Para quem acompanha hardware, porém, o detalhe mais interessante do anúncio está no Glimmer: a Meta está tentando colocar agentes relativamente grandes diretamente dentro do computador do usuário.
Os arquivos Muse Glimmer estão disponíveis para download gratuito através da plataforma Hugging Face , sob a licença permissiva Apache 2.0.
Muse Glimmer foi criado para agentes que trabalham dentro do próprio computador
O Muse Glimmer não foi desenvolvido prioritariamente como mais um chatbot. Segundo a Meta, o modelo foi otimizado para agentes capazes de executar sequências de tarefas, chamar ferramentas, trabalhar com código, analisar documentos e imagens e se recuperar quando uma etapa falha. Isso muda a importância de executar o modelo localmente.
Um chatbot convencional pode receber uma pergunta e devolver uma resposta. Um agente pode precisar acessar arquivos, interpretar uma captura de tela, trabalhar com documentos, chamar programas e manter contexto durante uma sequência maior de ações. Quanto mais acesso esse sistema recebe, mais relevantes ficam questões como privacidade, latência e dependência de uma conexão com a internet.
A Meta cita justamente exemplos como um agente capaz de administrar agenda, organizar arquivos e redigir mensagens. O Muse Glimmer aceita texto e imagens e foi treinado para uso de ferramentas, raciocínio em várias etapas e execução de tarefas prolongadas. O treinamento inclui dados em mais de 100 idiomas.
Modelo de 30 bilhões de parâmetros precisaria de mais de 55 GB sem compressão
O principal obstáculo para colocar uma IA desse porte em um computador pessoal é memória. Segundo a Meta, os 30 bilhões de parâmetros do Muse Glimmer exigiriam mais de 55 GB de memória se mantidos em precisão completa. Isso já eliminaria praticamente todas as placas de vídeo destinadas ao consumidor como opção para executar o modelo inteiro na GPU.
A solução foi quantizar os pesos para aproximadamente 4 bits. Com isso, o componente de linguagem pode ocupar menos de 20 GB, deixando espaço adicional para o cache usado durante a inferência, o codificador responsável pela interpretação de imagens e o sistema de geração especulativa. A Meta disponibilizou diferentes configurações quantizadas. Uma delas foi preparada para máquinas com cerca de 24 GB disponíveis para a carga de trabalho, enquanto outra mira uma faixa de 32 GB.
Portanto, dizer que o Muse Glimmer funciona em uma “GPU de consumidor” exige uma ressalva importante: isso não significa que o modelo completo vá rodar confortavelmente em qualquer placa de vídeo comum.
A própria NVIDIA destaca a GeForce RTX 5090, equipada com 32 GB de VRAM, entre as plataformas capazes de executar o modelo localmente.
Meta também usa uma segunda IA para fazer o Muse Glimmer responder mais rápido
Diminuir o consumo de memória resolve apenas parte do problema. Uma IA local também precisa responder rápido o suficiente para não tornar um agente impraticável. Para isso, o Muse Glimmer utiliza um mecanismo chamado DFlash. Em vez de depender exclusivamente da geração tradicional de um token de cada vez, um modelo auxiliar menor tenta antecipar blocos de tokens. O Muse Glimmer principal verifica essas previsões em paralelo, aceita o que estiver correto e corrige o restante.
Nos testes divulgados pela Meta, a técnica aumentou em 3,1 vezes a velocidade de decodificação em uma GeForce RTX 5090. O ganho informado foi de 1,8 vez em um Mac com M5 Max e 1,5 vez no M4 Max.
AMD conseguiu até 53 tokens por segundo em uma única Radeon
A AMD também publicou seus primeiros resultados com o modelo.
Em testes preliminares no Windows usando llama.cpp e Vulkan, um sistema equipado com Ryzen AI Max+ 395 alcançou até 24 tokens por segundo. Uma workstation com uma única Radeon AI PRO R9700 de 32 GB chegou a 53 tokens por segundo com o DFlash ativado. A própria AMD recomenda mais de 32 GB de VRAM ou memória gráfica variável para utilizar o Muse Glimmer pelo LM Studio em suas plataformas. Entre os equipamentos citados estão máquinas com Ryzen AI Max+ e a Radeon AI PRO R9700.
Isso reforça a principal limitação do lançamento: estamos falando de IA local em hardware pessoal, mas ainda no segmento superior de memória.
O avanço está menos em transformar qualquer notebook em uma estação de IA e mais em eliminar a necessidade de múltiplas GPUs ou de infraestrutura de servidor para uma categoria de modelo que anteriormente seria difícil de acomodar em uma única placa.
Rodar a IA localmente mantém arquivos e código na própria máquina
Há outra consequência prática além do custo de hardware. Quando o modelo funciona localmente, uma tarefa pode ser processada sem que seu conteúdo precise ser enviado para uma API na nuvem. Isso permite criar ferramentas para trabalhar com código proprietário, documentos e outros dados sensíveis mantendo o processamento dentro do computador, desde que o restante da aplicação também seja configurado dessa maneira.
Também desaparece o custo de inferência cobrado por token por um provedor externo. Em contrapartida, o usuário assume o custo do hardware, da energia e da configuração necessária para executar o modelo.
Há ainda a possibilidade de funcionamento sem conexão permanente com a internet, algo que a Meta apresenta como uma das vantagens do Glimmer.
Muse Glimmer tem pesos abertos sob licença Apache 2.0
A Meta disponibilizou os pesos do Muse Glimmer sob a licença Apache 2.0, que permite aos desenvolvedores modificar, redistribuir e utilizar o modelo comercialmente dentro das condições da licença. Os pesos já podem ser obtidos pelo Hugging Face. A companhia também prepara integrações com ferramentas populares para execução de modelos locais. A lista inclui llama.cpp, MLX e ExecuTorch, além de opções como Ollama, LM Studio e Unsloth. Para servidores, a Meta cita vLLM e SGLang.
NVIDIA e AMD já anunciaram suporte e otimizações próprias para suas plataformas.
Desempenho ainda precisa ser confrontado com testes independentes
A Meta publicou benchmarks comparando o Muse Glimmer com modelos de porte semelhante, incluindo o Gemma4-31B e o Qwen3.6-27B. Os resultados apresentados pela empresa indicam vantagens do Glimmer em alguns testes voltados a agentes, pesquisa e desenvolvimento de software. A comparação, porém, não termina em vitória para o modelo da Meta: há testes de interação com computadores e terminal nos quais o Qwen utilizado na comparação permanece à frente.
Testes independentes ainda serão necessários para saber como o Muse Glimmer se comporta em diferentes GPUs, quantizações, ferramentas e tarefas reais. A possibilidade de baixar os pesos desde o primeiro dia deve facilitar justamente essa verificação pela comunidade.
O lançamento do Glimmer veio acompanhado de uma declaração mais ampla de Mark Zuckerberg sobre a estratégia de IA da Meta. O executivo defendeu que modelos poderosos não deveriam ficar concentrados exclusivamente em poucas empresas, governos ou instituições. Zuckerberg também afirmou que os Estados Unidos e seus aliados deveriam assumir uma posição de liderança no ecossistema de IA aberta.
A decisão mais concreta para desenvolvedores é a promessa de disponibilizar também os pesos do Muse Spark 1.2, modelo de fundação mais avançado da Meta atualmente. A empresa ainda não liberou esses pesos no anúncio desta segunda-feira.
No caso do Muse Glimmer, porém, não é necessário esperar. O modelo já está disponível para download, e a chegada das integrações com ferramentas populares deve mostrar nas próximas semanas até onde um modelo de 30 bilhões de parâmetros consegue ir quando o servidor de IA passa a ser o próprio PC.
Você também deve ler!