Torna al BlogDi Michael Kerkhoff, Founder & CEO

Muse Glimmer: il modello aperto e agentico da 30B di Meta che funziona sul tuo dispositivo

Meta ha appena rilasciato Muse Glimmer, un modello multimodale da 30 miliardi di parametri basato su architettura ad agenti. Con licenza Apache 2.0, è progettato per funzionare in locale su hardware consumer offrendo funzionalità avanzate di multi-step reasoning e recupero dagli errori.

Muse Glimmer: il modello aperto e agentico da 30B di Meta che funziona sul tuo dispositivo

Muse Glimmer: il modello aperto e agentico da 30B di Meta che funziona sul tuo dispositivo

In breve (TL;DR): Meta ha appena rilasciato Muse Glimmer, un modello multimodale da 30 miliardi di parametri distillato dal suo modello di frontiera proprietario Muse Spark. Viene distribuito con licenza Apache 2.0, funziona localmente su una singola GPU consumer o su un Mac con Apple Silicon, ed è specificamente addestrato per flussi di lavoro con agenti autonomi: chiamata di strumenti (tool calling), ragionamento multi-fase (multi-step reasoning), recupero dagli errori e comprensione multimodale. Con una quantizzazione a 4 bit che lo porta sotto i 20 GB e la decodifica speculativa DFlash che offre un'accelerazione fino a 3,1x, è il modello per agenti locali a pesi aperti (open-weight) più capace che Meta abbia mai rilasciato.


Perché Muse Glimmer è importante

Per due anni, il dibattito sui modelli a pesi aperti è stato dominato dai laboratori cinesi. A maggio 2026, i modelli cinesi rappresentavano circa il 61% di tutti i token consumati su OpenRouter, con quattro dei cinque modelli più utilizzati provenienti da laboratori come Qwen e DeepSeek. Llama di Meta, il precedente leader dei modelli a pesi aperti, era completamente sparito dalle classifiche.

Muse Glimmer cambia questo scenario. È la prima release completamente aperta di Meta da quando l'azienda ha sostituito Llama con la famiglia proprietaria Muse Spark nell'aprile 2026. E arriva con una licenza molto più permissiva di quanto Llama abbia mai avuto: Apache 2.0, senza restrizioni sul numero di utenti, senza obblighi di attribuzione per i grandi distributori e senza necessità di accordi commerciali separati.

Ma la vera notizia non è la licenza. È lo scopo del modello. Muse Glimmer non è un semplice chatbot. È un target di runtime per agenti locali: un modello addestrato sull'intero ciclo dell'agente, in grado di pianificare, chiamare strumenti, osservare i risultati, recuperare dagli errori e verificare il proprio lavoro. Questo lo rende direttamente rilevante per gli sviluppatori che creano assistenti focalizzati sulla privacy, agenti di programmazione locali, pipeline di analisi dei documenti e flussi di lavoro autonomi che funzionano senza una connessione cloud.

Architettura: un Transformer denso costruito per gli agenti

Muse Glimmer è un transformer causale denso con circa 29,6 miliardi di parametri totali distribuiti su 52 livelli (layer). A differenza dei modelli mixture-of-experts (MoE) che instradano i token attraverso sottoinsiemi di parametri, qui ogni parametro si attiva per ogni token. Questo garantisce una latenza prevedibile, coerenza in contesti lunghi e un comportamento affidabile durante flussi di lavoro estesi e multi-fase: esattamente le proprietà di cui ha bisogno un agente.

Modello Linguistico

Il decoder di testo utilizza un pattern di attenzione ibrido che alterna tre layer di attenzione a finestra scorrevole (finestra di 2.048 token con RoPE) seguiti da un quarto layer che utilizza l'attenzione completa con NoPE (nessun embedding posizionale). Questo pattern si ripete 13 volte per raggiungere un totale di 52 layer. Il design preserva le informazioni sull'ordine relativo a livello locale tramite RoPE, mantenendo al contempo il contesto globale attraverso layer periodici ad attenzione completa.

La Grouped-query attention (GQA) utilizza 32 head per le query che condividono 2 head per le coppie key-value, riducendo la memoria della cache KV di 16 volte rispetto alla standard multi-head attention. La normalizzazione Q-K con ridimensionamento extra delle query mantiene stabili i logit dell'attenzione: query e key vengono sottoposte a normalizzazione RMS prima dell'attenzione, con un fattore di scala aggiuntivo applicato alle query.

Vision Encoder

Un encoder di percezione dedicato ViT-G/14 da ~1,8B di parametri gestisce l'input delle immagini. Questo è significativamente più grande rispetto agli encoder visivi presenti nella maggior parte dei VLM di dimensioni comparabili. Accetta fino a 4.096 token visivi per immagine e li elabora attraverso 50 layer transformer con lo stesso pattern di attenzione [Locale, Locale, Locale, Globale]. L'encoder supporta immagini, video (elaborati come singoli frame a 2 fps, con un massimo di 96 frame) e RoPE 2D su query e key.

Specifiche Tecniche Principali

ProprietàValore
Parametri totali~29,6B (incluso l'encoder visivo da ~1,8B)
Livelli (Layer)52 (13 × [SWA, SWA, SWA, Full])
Lunghezza del contesto131.072+ token
Vocabolario202.048 token
Cutoff delle conoscenze4 gennaio 2026
Modalità di inputTesto + Immagine
OutputTesto
Lingue supportate100+
Pattern di attenzione3× sliding window (2048) + 1× attenzione completa
GQA32 query head, 2 KV head
LicenzaApache 2.0

Addestramento: distillato da un modello di frontiera

Muse Glimmer è una distillazione di Muse Spark, il modello di frontiera proprietario di Meta. La pipeline di addestramento si è svolta in tre fasi:

  1. Pre-addestramento (Pre-training). Distillazione dei logit sugli output di Muse Spark, utilizzando un mix di dati simile a quello del modello insegnante. Questo trasferisce non solo la conoscenza ma l'intera distribuzione degli output del modello più grande.
  2. Addestramento intermedio (Mid-training). Dati a contesto lungo focalizzati sugli agenti, con tracce di ragionamento più ricche affiancate a dati organici. È qui che il modello impara a sostenere piani coerenti su flussi di lavoro prolungati.
  3. Post-addestramento (Post-training). Fine-tuning supervisionato combinato con distillazione on-policy e apprendimento per rinforzo (reinforcement learning) nei domini generali, di ragionamento, di programmazione e agentici.

L'enfasi sul recupero dagli errori (failure recovery) è particolarmente degna di nota. Quando una chiamata a uno strumento fallisce o restituisce un risultato imprevisto, Muse Glimmer è addestrato a diagnosticare l'errore e a riprovare piuttosto che fermarsi. Questa è una capacità di cui la maggior parte dei modelli chat è sprovvista: essi generano testo, ma non portano a termine il lavoro.

Prestazioni: dove Glimmer vince e dove perde

Meta ha valutato Muse Glimmer contro Gemma4-31B di Google e Qwen3.6-27B di Alibaba (entrambi in modalità "thinking"). I risultati delineano un quadro chiaro: Glimmer è leader nell'orchestrazione agentica e nel ragionamento, ma è in svantaggio nell'uso del computer e nel lavoro da terminale.

Confronto nei Benchmark

BenchmarkMuse Glimmer 30BGemma4-31BQwen3.6-27B
MCP Atlas75.554.262.5
DeepSearch QA74.661.771.1
GAIA243.336.440.0
SWE-Bench Pro51.236.950.2
τ³-Banking23.515.116.7
WildClawBench47.637.643.2
AIME 202694.789.294.1
IFBench77.076.070.8
AA-LCR80.068.373.3
Beam 128K65.158.263.0
SWE-Bench Verified76.066.677.2
OSWorld-Verified65.958.575.6
TerminalBench 2.151.743.460.7
GPQA Diamond83.585.784.2

Il quadro generale: Glimmer vince sull'orchestrazione agentica (MCP Atlas, DeepSearch QA, GAIA2), sulla programmazione agentica (SWE-Bench Pro) e nel seguire le istruzioni (IFBench, AA-LCR). Qwen3.6-27B è in testa nei task di utilizzo del computer (OSWorld, TerminalBench) ed è in leggero vantaggio su SWE-Bench Verified. Gemma4-31B è in testa sui benchmark di puro ragionamento come GPQA Diamond.

Letti con onestà, i numeri rendono Glimmer più interessante come modello specializzato per agenti locali che come prova di una leadership prestazionale universale. La questione pratica è se la sua combinazione di affidabilità dell'agente, qualità della quantizzazione e velocità di decodifica si traduca dai benchmark a flussi di lavoro sostenuti nel mondo reale.

Far girare 30B su hardware consumer

Un modello da 30 miliardi di parametri a precisione completa richiede oltre 55 GB di memoria, una quantità ben superiore a quella offerta da qualsiasi singola GPU consumer. Meta ha risolto il problema con due ottimizzazioni.

Quantizzazione a 4 bit

Meta comprime i pesi del modello a una precisione di circa 4 bit, riducendo il modello linguistico a meno di 20 GB. Questo lascia sufficiente margine per far girare contemporaneamente la cache KV, l'encoder di percezione e il modello bozza (drafter) di decodifica speculativa entro una capacità di 24 GB o 32 GB.

Vengono distribuite due build quantizzate:

BuildVRAM TargetDegrado Medio
K-Quant-17GB24 GB (RTX 3090/4090)1,0% su 15 benchmark
K-Quant-Dynamic32 GB (RTX 5090)0,2% su 15 benchmark

Lato Mac, la memoria unificata di Apple Silicon svolge il ruolo di VRAM. Un MacBook Pro o un Mac Studio con 32 GB o più può contenere l'intero stack. I classici portatili da 8 GB o 16 GB rimangono tagliati fuori.

Decodifica Speculativa DFlash

Invece di generare ogni token in sequenza, Muse Glimmer viene distribuito con un drafter DFlash leggero: una rete di supporto a 5 layer che propone blocchi di 16 token alla volta. Il modello principale verifica queste proposte in parallelo, accettando i token corretti e correggendo quelli sbagliati. Questo produce un output identico a una velocità significativamente superiore.

HardwareSenza DFlashCon DFlashAccelerazione (Speedup)
RTX 509074.9 tok/s233.4 tok/s3.1x
Apple M5 Max26.6 tok/s50.2 tok/s1.8x
Apple M4 Max23.7 tok/s37.8 tok/s1.5x

Per le applicazioni con agenti, questi moltiplicatori contano più di quanto farebbero per una chat. Una singola richiesta utente può innescare numerosi turni del modello, chiamate di strumenti e passaggi di verifica. La latenza accumulata ad ogni stadio può rendere rapidamente impraticabile un agente altrimenti capace.

Eseguire Muse Glimmer localmente

Guida rapida con Transformers

from transformers import AutoProcessor, AutoModelForMultimodalLM

MODEL_ID = "meta-models/Muse-Glimmer-30B"

processor = AutoProcessor.from_pretrained(MODEL_ID)
model = AutoModelForMultimodalLM.from_pretrained(
    MODEL_ID,
    dtype="auto",
    device_map="auto"
)

messages = [
    {"role": "user", "content": "Scrivi una breve battuta sul risparmiare RAM."},
]

inputs = processor.apply_chat_template(
    messages,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
    add_generation_prompt=True,
    reasoning_strength="low"
).to(model.device)

outputs = model.generate(**inputs)
response = processor.decode(outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=False)
print(response)

Input multimodale (Immagini + Testo)

messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "image": "https://example.com/screenshot.png"},
            {"type": "text", "text": "Cosa è mostrato in questa immagine?"}
        ]
    }
]

inputs = processor.apply_chat_template(
    messages,
    tokenize=True,
    return_dict=True,
    return_tensors="pt",
    add_generation_prompt=True,
    reasoning_strength="low"
).to(model.device)

outputs = model.generate(**inputs)
response = processor.decode(outputs[0][inputs["input_ids"].shape[-1]:], skip_special_tokens=False)

Esecuzione con llama.cpp

curl -LsSf https://llama.app/install.sh | sh
llama serve -hf meta-models/Muse-Glimmer-30B-GGUF

Quindi interrogare il server:

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "messages": [
      {"role": "system", "content": "Sei un assistente utile."},
      {"role": "user", "content": "Scrivi un limerick sulle eccezioni in python"}
    ]
  }'

Opzioni di Deployment

Muse Glimmer è supportato sin dal primo giorno in tutto l'ecosistema:

  • Runtime locali: Ollama, LM Studio, Unsloth, llama.cpp, MLX, ExecuTorch
  • Serving su scala: vLLM, SGLang
  • Provider API: Together AI, Fireworks AI, OpenRouter
  • Fine-tuning: PyTorch TorchTitan
  • Partner hardware: AMD, Arm, Dell, Intel, NVIDIA

Cosa lo rende "agentico" (Agentic)

Meta ha addestrato Muse Glimmer sull'intera sequenza di operazioni che esegue un agente autonomo. Ecco cosa significa in pratica:

  • Completamento dei task end-to-end. Il modello ottiene elevate percentuali di successo sui benchmark che richiedono di portare a termine interi task, tra cui DeepSearch QA, MCP-Atlas, τ-Bench e SWE-Bench. Questi testano la capacità di lavorare all'interno di framework (scaffold), scrivere e fare il debug di codice, e risolvere richieste multi-turno dall'inizio alla fine.
  • Uso affidabile degli strumenti (Tool use). Il modello gestisce un'ampia gamma di chiamate a funzioni con schemi precisi durante interi flussi di lavoro. Non si limita a chiamare gli strumenti: li chiama correttamente, con i parametri giusti e nell'ordine giusto.
  • Ragionamento multi-fase. Muse Glimmer concatena i ragionamenti su orizzonti estesi, sostenendo piani coerenti su flussi di lavoro complessi. La finestra di contesto di oltre 131K token supporta proprio questo.
  • Recupero dagli errori. Quando una chiamata allo strumento fallisce o restituisce un risultato imprevisto, il modello è addestrato a diagnosticare l'errore e a riprovare. Questa è la capacità che separa un agente da un chatbot.
  • Comprensione multimodale. Attraverso l'encoder di percezione, il modello interpreta screenshot, grafici e documenti parallelamente alla conversazione. Un agente può guardare uno schermo e decidere cosa fare dopo.
  • Sforzo controllabile. Le impostazioni di ragionamento basso, medio, alto e altissimo consentono alle applicazioni di regolare lo sforzo in base al compito, bilanciando qualità e velocità.
  • Compatibilità con gli scaffold. Muse Glimmer funziona con pattern di orchestrazione agentica tra cui OpenClaw e Hermes Agent.

Meta lo ha dimostrato con un flusso di lavoro su Home Assistant in locale: in un video dimostrativo, Glimmer ha scoperto autonomamente un'istanza di Home Assistant sulla rete tramite chiamate ai tool, ha interrogato le API dei dispositivi, ha scritto da zero una dashboard responsive in HTML/CSS/JavaScript e ha implementato un server locale per verificare il proprio lavoro.

Pesi Aperti vs. Open Source: la differenza di Apache 2.0

La licenza comunitaria su misura di Llama ha attirato per anni critiche per la sua soglia di 700 milioni di utenti mensili e per le restrizioni sui grandi deployer. Apache 2.0 non ha di questi vincoli. Consente l'uso commerciale, la modifica e la ridistribuzione senza restrizioni con obblighi minimi (includere la nota di licenza, dichiarare le modifiche significative).

Questo è importante per diverse ragioni:

  • Nessuna limitazione sul numero di utenti. Non è necessario un accordo separato se il tuo prodotto raggiunge i 700 milioni di utenti mensili.
  • Nessun requisito di attribuzione per i grandi operatori. Non è necessario mostrare l'etichetta "Powered by Muse Glimmer" nel tuo prodotto.
  • Compatibilità con altre licenze. Apache 2.0 è compatibile con GPLv3 e con la maggior parte delle altre licenze open source, rendendo più semplice l'inclusione in stack software a licenza mista.
  • Concessione di brevetti. Apache 2.0 include un'esplicita concessione in materia di brevetti (patent grant), cosa che la licenza comunitaria di Llama non faceva.

Casi d'uso: dove gli agenti locali brillano

Muse Glimmer è costruito per scenari in cui la dipendenza dal cloud è un ostacolo:

  • Applicazioni attente alla privacy. Un agente che lavora con file, screenshot, ambienti di sviluppo e altri contesti sensibili può eseguire flussi di lavoro senza inviare continuamente tali informazioni a un servizio di inferenza remoto.
  • Funzionamento offline. Assistenza sul campo, produzione e ambienti remoti in cui la disponibilità della rete è inaffidabile.
  • Flussi di lavoro sensibili alla latenza. Interazione in tempo reale con agenti che non possono tollerare la latenza di andata e ritorno verso un endpoint cloud.
  • Controllo dei costi. L'implementazione locale rimuove le tariffe API per token dal ciclo di inferenza, sebbene le organizzazioni debbano comunque sostenere i costi di hardware, elettricità, implementazione e gestione.
  • Ambienti isolati (Air-gapped). Sanità, settore legale, servizi finanziari, difesa e pubblica amministrazione in cui le regole sulla residenza dei dati escludono le chiamate al cloud.
  • Strumenti per sviluppatori. Agenti di programmazione locali, pipeline di analisi dei documenti, valutazione LLM-as-a-judge e generazione di dati sintetici.

Limitazioni da tenere a mente

Muse Glimmer non è un modello universale. Comprenderne i limiti è essenziale per scegliere lo strumento giusto:

  • Nessun supporto audio. L'input è solo testuale e visivo (immagini). L'elaborazione audio non è disponibile.
  • L'uso del computer è in svantaggio rispetto ai concorrenti. OSWorld-Verified (65.9) e TerminalBench 2.1 (51.7) sono entrambi nettamente inferiori a Qwen3.6-27B. Se il vostro agente ha bisogno di guidare un sistema operativo desktop, Qwen è la scelta migliore.
  • Requisiti hardware. Sebbene 24 GB di VRAM siano sufficienti per la build K-Quant-17GB, ciò significa comunque usare una RTX 3090/4090 o un Mac da 32+ GB. I classici laptop non possono farlo girare.
  • Non è un modello di frontiera. Meta dichiara esplicitamente che il modello non soddisfa la definizione di IA di Frontiera (Frontier AI) nel suo Framework di Scaling IA Avanzato. È uno strumento specializzato, non un sostituto per uso generale dei grandi modelli cloud.
  • Superficie di sicurezza. Il tasso di successo dell'attacco Siren AgentDojo è di 28,4 con un'utilità di 94,2. Meta consiglia di aggiungere guardrail a livello di sistema piuttosto che fornire il modello come endpoint esposto e privo di protezioni.

FAQ

Muse Glimmer può girare su un portatile standard con 16 GB di RAM?

No, Muse Glimmer richiede almeno 24 GB di VRAM per la build K-Quant-17GB, che si rivolge a GPU consumer come la RTX 3090 o RTX 4090. Sui Mac con Apple Silicon, sono necessari 32 GB o più di memoria unificata per contenere l'intero stack del modello: inclusa la cache KV, l'encoder di percezione e il drafter di decodifica speculativa. Un tipico portatile da 8 GB o 16 GB non è in grado di eseguire il modello. Se avete bisogno di un modello più piccolo per hardware più modesti, guardate a Qwen3.6-27B o Gemma4-31B, che hanno formati quantizzati più piccoli, sebbene scendano a compromessi sulle capacità agentiche.

In che modo Apache 2.0 differisce dalla precedente licenza comunitaria di Llama?

Apache 2.0 è una licenza open source permissiva senza soglie di utilizzo, senza requisiti di attribuzione per i grandi deployer e senza la necessità di accordi commerciali separati. La licenza comunitaria di Llama includeva un limite di 700 milioni di utenti mensili che imponeva alle organizzazioni di negoziare un accordo a parte con Meta. Apache 2.0 include anche una concessione esplicita di brevetti, cosa che la licenza Llama non faceva. Questo rende Muse Glimmer significativamente più attraente per le implementazioni enterprise e per l'inclusione in stack software a licenza mista, poiché Apache 2.0 è compatibile con GPLv3 e la maggior parte delle altre licenze open source.

Muse Glimmer è migliore di Qwen3.6-27B per gli agenti di programmazione (coding)?

Dipende dal vostro caso d'uso specifico. Muse Glimmer primeggia su SWE-Bench Pro (51.2 vs 50.2) e DeepSearch QA (74.6 vs 71.1), che misurano flussi di lavoro di coding agentico end-to-end. Tuttavia, Qwen3.6-27B primeggia su SWE-Bench Verified (77.2 vs 76.0) e TerminalBench 2.1 (60.7 vs 51.7), che misurano interazioni più mirate sul terminale e sulla generazione di codice. Se il vostro agente ha bisogno di operare su un terminale o interagire con un sistema operativo, Qwen è la scelta più forte. Se l'agente deve pianificare, chiamare strumenti e recuperare da errori su lunghi flussi di lavoro, Glimmer ha il vantaggio.

Cos'è la decodifica speculativa DFlash e quanto aiuta?

DFlash è una tecnica di decodifica speculativa a diffusione di blocco che utilizza un modello bozza (drafter) leggero a 5 layer per proporre 16 token in una volta, invece di generare i token uno per uno. Il modello principale poi verifica queste proposte in parallelo, accettando i token corretti e correggendo quelli sbagliati. L'output è identico a quello della generazione standard: non vi è perdita di qualità. L'accelerazione è significativa: su una NVIDIA RTX 5090, il throughput passa da 74,9 a 233,4 token al secondo (3,1x). Su Apple Silicon, l'M5 Max passa da 26,6 a 50,2 tok/s (1,8x) e l'M4 Max da 23,7 a 37,8 tok/s (1,5x). Per le applicazioni basate su agenti questo è cruciale, perché una singola richiesta può innescare numerosi turni del modello e la latenza in ogni fase si accumula.

Posso fare il fine-tuning di Muse Glimmer per il mio caso d'uso specifico?

Sì, il fine-tuning di Muse Glimmer può essere effettuato utilizzando la funzionalità di addestramento TorchTitan di PyTorch, che Meta menziona specificamente nei suoi materiali di rilascio. Il modello è inoltre compatibile con i tradizionali approcci di fine-tuning attraverso la libreria transformers di Hugging Face. Poiché il modello è un transformer denso (e non un modello mixture-of-experts), il fine-tuning è lineare: non occorre gestire l'instradamento o il bilanciamento degli esperti. Tuttavia, il fine-tuning di un modello da 30B richiede ancora notevoli risorse di calcolo, tipicamente diverse GPU di fascia alta. Per personalizzazioni più leggere, considerate il prompt engineering utilizzando le impostazioni per controllare lo sforzo di ragionamento (basso, medio, alto, altissimo) prima di investire nel fine-tuning.

Come si confronta Muse Glimmer con i modelli cloud come GPT-5 o Claude?

Muse Glimmer non è progettato per competere con i modelli cloud di frontiera per quanto riguarda le pure capacità. Meta afferma esplicitamente che non soddisfa la definizione di IA di Frontiera (Frontier AI) nel suo Framework di Scaling IA Avanzato. Invece, Glimmer compete su un altro piano: fornire una capacità agentica sufficiente per funzionare localmente, con tutti i vantaggi in termini di privacy, costi e latenza che derivano dall'implementazione in locale. Pensate ad esso come a un runtime specializzato per agenti locali piuttosto che a un chatbot generico. Se il vostro flusso di lavoro richiede ragionamenti a livello di modelli di frontiera e potete accettare la dipendenza dal cloud, i modelli più grandi rimangono la scelta migliore. Se invece necessitate di un agente che giri sul vostro hardware, sotto il vostro controllo e senza costi per token, Muse Glimmer è l'opzione open-weight più capace mai distribuita da Meta.

Fonti

Condividi articolo

Share: