TL;DR: OpenAI hat die ersten Messergebnisse für Jalapeño veröffentlicht — der erste eigene Inference-ASIC, gefertigt mit Broadcom. Das Ergebnis: 1,5- bis 1,9-mal mehr KI-Arbeit pro Watt, 1,7- bis 3,6-mal niedrigere End-to-End-Latenz gegenüber kommerziellen Vergleichssystemen, getestet auf drei offenen Modellen über einen öffentlichen Benchmark. Der größte Hebel steckt bei interaktiven Workloads mit bis zu 4,1-mal mehr Performance. Der Produktionsramp läuft über 2027.
Was Jalapeño ist
- Der erste eigene Inference-Chip von OpenAI, entwickelt gemeinsam mit Broadcom und optimiert auf das Abarbeiten von Sprachmodellen.
- Gemessen wurde auf InferenceX, dem öffentlichen Benchmark von SemiAnalysis — also nicht nur eine interne Folie.
- Getestete Modelle: GPT-OSS 120B, DeepSeek R1 670B und Kimi K2.5 1T. Das zeigt: Die Architektur funktioniert auch mit offenen Modellen, nicht nur mit proprietären.
Die Messwerte auf einen Blick
| Metrik | Jalapeño vs. Vergleichssystem |
|---|---|
| Arbeit pro Watt (Peak-Durchsatz) | 1,5–1,9× mehr |
| End-to-End-Latenz | 1,7–3,6× niedriger |
| Interaktive Workloads | 2,1–4,1× höhere Performance |
| Kimi K2.5 1T (größtes getestetes Modell) | ~1,5× Performance/Watt, 3,4× niedrigere Latenz |
| Nennleistung / gemessene Dauerleistung | 700 W / ≤ 550 W |
modelle: [GPT-OSS 120B, DeepSeek R1 670B, Kimi K2.5 1T]
benchmark: InferenceX (SemiAnalysis, oeffentlich)
leistung: nominell 700 W, gemessen <= 550 W
produktion: Ramp ueber 2027, Grossteil Output Q4 2027
Warum der Chip schnell ist: Co-Design statt Teile-Stapeln
Jalapeño minimiert Datenbewegung — die eigentliche Flaschenhals-Quelle bei LLM-Inferenz. Dafür nutzt das System mehrere Hebel:
- Prefill (die Prompt-Verarbeitung) ist compute-intensiv, Decode (die tokenweise Antwort) ist durch die Speicherbandbreite limitiert. Der Chip aktiviert je nach Inferenz-Phase die passende Kombination aus Compute, Memory und Netzwerk.
- Der KV-Cache wird bewusst lokal platziert und gehalten, statt ständig zwischen Ressourcen zu wandern.
- Das Netzwerk ist Teil der Architektur: große Domänen halten einen gesamten Workload in einem verbundenen System, damit Wartezeiten zwischen Chips die Latenz nicht dominieren.
Gemessen wird bei gematchter User-Experience: gleich viel nützliche Arbeit pro Watt bei gleicher Latenz. Das ist genau der Maßstab für agentische Workloads, deren Teilschritte sich sequenziert aufsummieren — verzögert ein Schritt, wächst die Gesamtzeit des Tasks.
In internen Tests wuchs der Vorsprung auf die Frontier-Modelle von OpenAI weiter, was darauf hindeutet: Je größer und demanding der Workload, desto mehr lohnt die Architektur.
Was Builder daraus machen
- API-Preise stehen unter Abwärtsdruck. Mehr Arbeit pro Watt bei gleicher Latenz senkt die Stückkosten pro Million Token — die Richtung der jüngsten Releases (Sub-Dollar-Klasse bei offenen Modellen) dürfte sich fortsetzen.
- Der größte Sprung liegt bei interaktiven Workloads. Wer Agents mit vielen kleinen, sequenziellen Schritten baut, profitiert überproportional (bis 4,1×) — längere Ketten werden damit praktisch nutzbar.
- Lokale Stacks bleiben gültig. Jalapeño ist Rechenzentrums-Hardware mit 700 W Nennleistung. Für Datensouveränität und deterministische Kosten bleiben MLX/vLLM-Messreihen auf relevant; die getesteten offenen Modelle laufen in beiden Welten.
- Zeitfenster einplanen. Der Großteil der Kapazität kommt Q4 2027 — Konsolidierungsschritte für 2027/28 lassen sich daran takten.
FAQ
Woran misst sich, ob Jalapeño für mein Projekt relevant ist? An zwei Zahlen: Arbeit pro Watt und End-to-End-Latenz bei deiner typischen Prompt-Länge. Ist dein Workload interaktiv (kurze Antworten, viele Schritte), bringt der Chip laut Messung den größten Hebel. Bei langen Dokument-Prompts mit wenigen Antworten ist der Unterschied geringer, weil dort Prefill und Speicherbandbreite die Latenz dominieren.
Heißt mehr Performance pro Watt automatisch niedrigere API-Preise? Nicht automatisch, aber die Richtung stimmt: die Stückkosten pro Token sinken mit der Effizienz. OpenAI signalisiert, die Gewinne an Kunden weiterzugeben, und die Konkurrenz bei Open-Weight-Modellen erhöht den Preisdruck zusätzlich. Verbindlich bleiben trotzdem nur die Zahlen im offiziellen Pricing-Table der API.
Laufen meine jetzigen Modelle unverändert auf Jalapeño? Ja, der Chip serviert Modelle, keine neuen Formate. Die gemessenen Beispiele GPT-OSS 120B, DeepSeek R1 und Kimi K2.5 sind genau die offenen Modelle, die lokale und gehostete Pipelines heute schon nutzen. Die API-Syntax bleibt gleich; nur die Latenz- und Preiskurven verschieben sich zugunsten der Nutzer.
Soll ich wegen Jalapeño von lokalen Modellen weggehen? Noch nicht — die Produktion startet erst 2027 und die Verfügbarkeit ist am Anfang knapp. Prüfe nach dem ersten Produktiv-Monat die gemessene Latenz gegen deine eigene lokale Messung. Bei Datensouveränität (On-Prem, keine externen Requests) bleiben lokale Stacks im Zweifel die passende Wahl.
Wie ordnet sich Jalapeño gegen NVIDIA Blackwell ein? Die Vergleichssysteme in InferenceX sind die kommerziell verfügbaren Blackwell-Generationen. Auf dem getesteten Betriebsbereich hält Jalapeño die Pareto-Front: eine gleich gute oder bessere Kombination aus Durchsatz, Effizienz und Latenz. Das heißt nicht „immer schneller“, sondern: unter gleichen Latenz-Budgets liefert der Chip pro Watt mehr — der für Agents praktischere Maßstab.
Sources
- OpenAI — Jalapeño’s first results: https://openai.com/index/jalapeno-first-results/
- SemiAnalysis (Herausgeber InferenceX): https://semianalysis.com/
- Hacker News Diskussion (298 Punkte): https://news.ycombinator.com/