AI Ordlista Term

Vad är Upprepningsstraff?

Definition

En avkodningsinställning som sänker sannolikheten för tokens som modellen redan har producerat för att minska loopar.

Relaterade termer

Frekvensstraff
En avkodningsinställning som minskar sannolikheten för tokens proportionellt mot hur ofta de har dykt upp hittills.
Närvarostraff
En avkodningsinställning som minskar sannolikheten för tokens som överhuvudtaget har dykt upp, vilket uppmuntrar till nya ämnen.
Top-k Sampling
En avkodningsstrategi som endast samplar från de k mest sannolika nästa tokens.
Bevakad avkodning
En genereringsstrategi som begränsar utdatatokens till giltiga strukturer eller policykompatibla val.
Spekulativ avkodning
En inferensaccelerationsmetod där ett litet utkast till modell föreslår tokens som en större modell verifierar parallellt.
Skjutfönster Uppmärksamhet
Ett uppmärksamhetsmönster där varje token endast tar hand om ett fönster med fast storlek av närliggande tokens för att minska beräkningen.

Läs mer i våra kostnadsfria guider

Repetition Penalty and Decoding Controls

See also

Beam SearchParent-Document RetrievalMulti-Query RetrievalRAG-FusionSelf-PlayPost-trainingMid-trainingWatermarking
Bläddra i hela AI-ordlistanUtforska alla gratis AI-guider