AI Ordliste Term

Hva er Bevoktet dekoding?

Definisjon

En generasjonsstrategi som begrenser utdatatokens til gyldige strukturer eller policy-kompatible valg.

Relaterte vilkår

Top-k Sampling
En dekodingsstrategi som prøver bare fra de k mest sannsynlig neste tokene.
Topp-p (kjerne) prøvetaking
En dekodingsstrategi som sampler fra det minste tokensettet hvis sannsynligheter summerer til p.
Utdataparser
Logikk som validerer og konverterer modellutdata til sterkt maskinskrevne, maskinbrukbare strukturer.
Spekulativ dekoding
En inferensakselerasjonsmetode der et lite utkast til modell foreslår tokens som en større modell verifiserer parallelt.
Gjentakelsesstraff
En dekodingsinnstilling som senker sannsynligheten for tokens modellen allerede har produsert for å redusere løkker.
Frekvensstraff
En dekodingsinnstilling som reduserer sannsynligheten for tokens proporsjonalt med hvor ofte de har dukket opp så langt.

Lær mer i våre gratis guider

Contrastive DecodingMinimum Bayes Risk DecodingSelf-Consistency DecodingMedusa Decoding Heads

Se også

GroundednessHuman Preference ModelFeature StoreInference EndpointEval HarnessKnowledge BaseEmbedding ModelLatent Space
Bla gjennom hele AI-ordlistenUtforsk alle gratis AI-guider