val_bpb (Bit di Validazione per Byte)

Una metrica di prestazioni per i modelli linguistici che misura l'efficienza di compressione dei dati di validazione. Valori piu bassi indicano una compressione migliore e quindi prestazioni migliori del modello. Utilizzata come obiettivo di ottimizzazione in autoresearch di Karpathy perche calcolabile automaticamente senza giudizio umano tra le iterazioni.