LLMs
DeepSeek-V4-Flash passt, weil die Experten in 4 Bit liegen
DeepSeek-V4-Flash aktiviert 13 Mrd. Parameter pro Token, resident sind 284 Mrd. Die Experten liegen in FP4 – das bestimmt fast die gesamte Speicherrechnung.
vor 19 Tagen
Llm Ops
Alle Artikel zum Thema Llm Ops
Weitere Artikel
KI-Agenten
ARC-AGI-3 hat das Harness gemessen, nicht nur das Modell
Zwei API-Einstellungen hoben GPT-5.6 Sol bei ARC-AGI-3 von 13,3 % auf 38,3 % — ohne neue Gewichte. Warum das Harness und nicht das Modell den Score bestimmt.
vor 21 Tagen
OpenAI
GPT-5.6 Pro: Checkliste für Entwickler vor dem Start am 25. Juni
GPT-5.6 Pro ist nicht angekündigt, jede Spezifikation ist ein Leck. Eine Checkliste, die jeden Spitzenmodell-Start zum Nicht-Ereignis macht: Kennungen fixieren, Auswertungen einfrieren, Kosten deckeln, Rückfall benennen.
vor 2 Monaten