Test-Time Compute Scaling

Test-Time Compute Scaling (auch: Inference-Time Compute Scaling) bezeichnet die Strategie, einem KI-Modell beim Beantworten einer Anfrage mehr Rechenleistung zur Verfügung zu stellen – statt nur beim Training mehr zu investieren. Klassische Sprachmodelle führen für jede Eingabe einen einzigen Vorwärtsdurchlauf durch und liefern direkt eine Ausgabe. Test-Time Compute Scaling bricht mit diesem Prinzip: Das Modell darf mehr Zeit und Ressourcen nutzen, um verschiedene Lösungswege zu erkunden, Zwischenergebnisse zu prüfen oder sich selbst zu korrigieren, bevor es eine finale Antwort produziert. In der Praxis bedeutet das: Bei einfachen Aufgaben reicht ein kurzer Durchlauf; bei komplexen Problemen – etwa mehrstufigem Code-Debugging oder strategischer Analyse – kann das Modell mit längerer Rechenzeit deutlich bessere Ergebnisse erzielen. Eindrücklich belegt wurde dies durch Claude Mythos Preview, das auf Terminal-Bench 2.1 mit einem 4-Stunden-Timeout einen Score von 92,1 % erreichte, während kürzere Timeouts erheblich schlechtere Werte ergaben. Test-Time Compute Scaling ist eng verwandt mit Chain-of-Thought-Reasoning und modernen KI-Agenten-Architekturen: Beide nutzen iteratives Denken zur Qualitätsverbesserung. Für Unternehmen bedeutet dieser Ansatz, dass die 'Intelligenz' eines Modells nicht nur eine feste Eigenschaft ist, sondern durch Ressourceneinsatz gezielt steuerbar wird.