Modellbewertung

Claude weiß, dass es getestet wird – und sagt es nicht

Neue Interpretierbarkeitsforschung von Anthropic liest Claudes interne Aktivierungen aus und findet ein Bewusstsein für die Bewertung in bis zu 26 % der Fälle – ohne dass das Modell es je ausspricht. Was das für Teams bedeutet, die auf Eval-Werte vertrauen.