Local Llm

Qwen3.8-27B gira su una gamma sorprendente di hardware – ma a che velocità reale? Benchmark baseline vs ottimizzati dalla community (al 19/08/2026): una RTX 3090 a ~1.000 tok/s su 64 flussi paralleli, una RTX 5090 a 148 tok/s, un DGX Spark a 210 tok/s aggregati, DFlash 2 a 3,4x su H200 – più RTX 5080 laptop, Mac mini, MacBook Pro, Mac Studio e AMD Strix Halo con prefill, decode e concorrenza.

Meta ha appena rilasciato Muse Glimmer, un modello multimodale da 30 miliardi di parametri basato su architettura ad agenti. Con licenza Apache 2.0, è progettato per funzionare in locale su hardware consumer offrendo funzionalità avanzate di multi-step reasoning e recupero dagli errori.