Vad är Test-Time Compute?

Mängden processorkraft som förbrukas när varje svar produceras.

En metod som hämtar extern kunskap och matar in den i generering vid slutledningstidpunkten.

Prissättning där kostnaderna skalas med API-anrop, tokens, slutledningstid eller förbrukad beräkning.

Modellfelvärdet beräknat under träning och optimerat nedåt över tiden.

En enkel referensmodell som används för att jämföra om mer komplexa tillvägagångssätt faktiskt förbättrar resultaten.

Ett standardiserat test eller datauppsättning som används för att mäta och jämföra modellprestanda.