Moe

Der Fork Deltafin streamt die 1,45 TB Expertengewichte von Kimi K3 (2,8T MoE) schichtweise von vier NVMe-SSDs ins 128-GB-RAM eines M5 Max: ~1 tok/s Decode, 6,3 Minuten bis zum ersten Token. Mit Mess-Tabelle, SSD-Staffel und einem kopierbaren Layer-Budget-Check in drei Schritten.

Von 8 GB bis 512 GB VRAM: welche lokalen KI-Modelle auf deiner Hardware laufen — mit den Produktionsrezepten und Benchmarks von Mia's AI Lab.

DeepSeek-V4-Pro-0813 ist seit dem 13. August allgemein verfügbar und erreicht 87,9 % auf Terminal-Bench 2.1 — als erstes Open-Weight-Modell vor einem geschlossenen Frontier-Modell auf diesem Benchmark. Doch die GA-Gewichte fehlen auf Hugging Face, am 16. August steigen die Preise um 264 %, und mehrere selbst gemeldete Benchmarks sind noch nicht unabhängig bestätigt.