1× RTX 5090
367tok/sSpitze
1 Anfrage, synthetischer Prompt Quelle
Intelligenz9mit Denken
Lokale KI · Kreator
notwitcheer
8 veröffentlichte Rezepte.
Rezepte
1× RTX 5090
271tok/sSpitze
1 Anfrage, synthetischer Prompt Quelle
Intelligenz18mit Denkenohne Denken 15
1× RTX 5090
115tok/sSpitze
1 Anfrage, synthetischer Prompt Quelle
Intelligenz34mit Denkenohne Denken 20Wert des Originalmodells. Stark komprimiert (~2,1 Bit), Intelligenz dürfte deutlich niedriger liegen.
- ≤ 3 bit: Quantisierung kann Qualität kosten
1× RTX 5090
61,9tok/sSpitze
1 Anfrage, synthetischer Prompt Quelle
Intelligenz21mit Denkenohne Denken 20
1× RTX 5090
59,7tok/sSpitze
1 Anfrage, synthetischer Prompt Quelle
Intelligenz40mit Denken
- ≤ 3 bit: Quantisierung kann Qualität kosten
- Teils im Arbeitsspeicher
- Lizenz ungeklärt
1× RTX 5090
54,4tok/sSpitze
1 Anfrage, synthetischer Prompt Quelle
Intelligenz21mit Denkenohne Denken 20
1× RTX 5090
53tok/sSpitze
1 Anfrage, synthetischer Prompt Quelle
Intelligenz19mit Denkenohne Denken 14
1× RTX 5090
46,5tok/sSpitze
1 Anfrage, synthetischer Prompt Quelle
Intelligenz12mit Denken
- Teils im Arbeitsspeicher