AI Ordliste Term

Hva er Tilstedeværelsesstraff?

Definisjon

En dekodingsinnstilling som reduserer sannsynligheten for at tokens i det hele tatt har dukket opp, og oppmuntrer til nye emner.

Relaterte vilkår

Frekvensstraff
En dekodingsinnstilling som reduserer sannsynligheten for tokens proporsjonalt med hvor ofte de har dukket opp så langt.
Gjentakelsesstraff
En dekodingsinnstilling som senker sannsynligheten for tokens modellen allerede har produsert for å redusere løkker.
Top-k Sampling
En dekodingsstrategi som prøver bare fra de k mest sannsynlig neste tokene.
Bevoktet dekoding
En generasjonsstrategi som begrenser utdatatokens til gyldige strukturer eller policy-kompatible valg.
Spekulativ dekoding
En inferensakselerasjonsmetode der et lite utkast til modell foreslår tokens som en større modell verifiserer parallelt.
KV Cache
Lagrede nøkkel- og verditensorer fra tidligere tokens som lar transformatorer generere nye tokens uten å omberegne tidligere oppmerksomhet.

Lær mer i våre gratis guider

Repetition Penalty and Decoding Controls

Se også

Beam SearchParent-Document RetrievalMulti-Query RetrievalRAG-FusionSelf-PlayPost-trainingMid-trainingWatermarking
Bla gjennom hele AI-ordlistenUtforsk alle gratis AI-guider