Parametri attivi (MoE)

Nei modelli Mixture-of-Experts (MoE), i parametri attivi sono i parametri del modello effettivamente calcolati durante l'elaborazione di un singolo token. Un modello MoE è composto da più blocchi di esperti specializzati; per token, un router ne attiva solo una piccola parte. L'indicatore significativo è quindi la coppia dimensione totale / dimensione attiva — circa 125B totali / 6B attivi per Qwen 3.8 Flash Next, 770B / 49B per Tencent Hy-4 Preview, circa 18B attivi per GLM 5.3 Flash e 2B per il compatto Mini CPM5. La differenza rispetto a un modello denso classico: lì il numero di parametri calcolati per token uguaglia il numero totale. Nei modelli MoE, il calcolo per token scala con il numero attivo, mentre il fabbisogno di memoria è fissato dal numero totale — i due valori descrivono colli di bottiglia diversi. Perché il numero attivo determina la pratica: controlla direttamente il throughput di token (più parametri attivi = più operazioni per token) e il costo di inferenza per milione di token, quindi il prezzo dell'API, mentre il numero totale definisce il fabbisogno di VRAM. Un modello con 125B totali e 6B parametri attivi calcola per token come un piccolo modello 6B ma offre la larghezza di conoscenze di uno molto più grande — la frontiera di efficienza dell'attuale linea open-weight. Per leggere le schede dei modelli: il numero attivo non è un orpello di marketing ma il secondo indicatore chiave, di pari importanza. Specifiche come 125B/6B o 770B/49B mostrano che larghezza di conoscenze e velocità sono diventate raggiungibili disaccoppiando dimensione totale e dimensione attiva — coppie di parametri oneste invece di singole cifre in bilioni.