23 sept. 2026
Deltafin : Kimi K3 (2,8T) depuis quatre SSD sur MacBook — Le layer streaming comme levier d'inférence locale
(01)Le fork Deltafin permet d'exécuter le modèle Kimi K3 de 1,45 To en local sur un MacBook Pro en utilisant le streaming de couches depuis des SSD NVMe. Une analyse technique des performances, du Time-to-First-Token et des limites de cette approche d'inférence locale.
IA locale