1× RTX PRO 6000
207tok/sGemischt
1 Anfrage, gemischtes Prompt-Set, mit FR-Spec + NEXTN (laut Rezept) Quelle
Intelligenz40mit Denken
- Eigener Kernel nötig
- Lizenz ungeklärt
Lokale KI · Kreator
jpezzulli
4 veröffentlichte Rezepte.
Rezepte
1× RTX PRO 6000
109tok/sSpitze
1 Anfrage, Bestwert der Quelle Quelle
Intelligenz34mit Denkenohne Denken 20
1× RTX PRO 6000
89,8tok/sSpitze
1 Anfrage, Bestwert der Quelle Quelle
Intelligenz34mit DenkenWert des Originalmodells. Stark komprimiert (~2 Bit), Intelligenz dürfte deutlich niedriger liegen.
- ≤ 3 bit: Quantisierung kann Qualität kosten
1× RTX PRO 6000
85,6tok/sSpitze
1 Anfrage, Bestwert der Quelle, Kontext 500000 Quelle
Intelligenz34mit DenkenWert des Originalmodells. Stark komprimiert (~2 Bit), Intelligenz dürfte deutlich niedriger liegen.
- ≤ 3 bit: Quantisierung kann Qualität kosten