AI Ordlista Term

Vad är Bevakad avkodning?

Definition

En genereringsstrategi som begränsar utdatatokens till giltiga strukturer eller policykompatibla val.

Relaterade termer

Top-k Sampling
En avkodningsstrategi som endast samplar från de k mest sannolika nästa tokens.
Top-p (Nucleus) Provtagning
En avkodningsstrategi som samplar från den minsta tokenuppsättningen vars sannolikheter summeras till p.
Output Parser
Logik som validerar och omvandlar modellutdata till starkt typade, maskinanvändbara strukturer.
Spekulativ avkodning
En inferensaccelerationsmetod där ett litet utkast till modell föreslår tokens som en större modell verifierar parallellt.
Upprepningsstraff
En avkodningsinställning som sänker sannolikheten för tokens som modellen redan har producerat för att minska loopar.
Frekvensstraff
En avkodningsinställning som minskar sannolikheten för tokens proportionellt mot hur ofta de har dykt upp hittills.

Läs mer i våra kostnadsfria guider

Contrastive DecodingMinimum Bayes Risk DecodingSelf-Consistency DecodingMedusa Decoding Heads

See also

GroundednessHuman Preference ModelFeature StoreInference EndpointEval HarnessKnowledge BaseEmbedding ModelLatent Space
Bläddra i hela AI-ordlistanUtforska alla gratis AI-guider