4× RTX PRO 6000
189tok/sSpitze
1 Anfrage, Kontext 0 (78 Prompt-Token), synthetischer Dauer-Decode mit ignore-EOS, mit MTP3 (laut Rezept) Quelle
Intelligenz42mit Denken
- Eigener Kernel nötig
Lokale KI · Kreator
brandonmusic
6 veröffentlichte Rezepte.
Rezepte
2× RTX PRO 6000
152tok/sSpitze
1 Anfrage, Bestwert der Quelle, Kontext 64k Quelle
Intelligenz42mit Denken
- ≤ 3 bit: Quantisierung kann Qualität kosten
- Nicht kommerziell
- Lizenz ungeklärt
4× RTX PRO 6000
101tok/sSpitze
1 Anfrage, Bestwert der Quelle Quelle
Intelligenz34mit Denkenohne Denken 22
- ≤ 3 bit: Quantisierung kann Qualität kosten
4× RTX PRO 6000
74tok/sSpitze
1 Anfrage, Bestwert der Quelle Quelle
Intelligenz34mit Denkenohne Denken 22
4× RTX PRO 6000
62,6tok/sSpitze
1 Anfrage, Bestwert der Quelle, Kontext 128k Quelle
Intelligenz34mit Denkenohne Denken 22
- ≤ 3 bit: Quantisierung kann Qualität kosten
4× RTX PRO 6000
48,9tok/sSpitze
1 Anfrage, Bestwert der Quelle Quelle
Intelligenz34mit Denkenohne Denken 22
- ≤ 3 bit: Quantisierung kann Qualität kosten