Termen de glosar AI

Ce este Eșantionarea top-k?

Definiție

O strategie de decodare care prelevează numai din cele k cele mai probabile simboluri următoare.

Termeni înrudiți

Eșantionarea top-p (Nucleus).
O strategie de decodare care prelevează din cel mai mic set de jetoane ale cărui probabilități se însumează la p.
Decodare păzită
O strategie de generare care constrânge jetoanele de ieșire la structuri valide sau la alegeri conforme cu politicile.
Învățare cu câteva lovituri
Învățarea sau adaptarea comportamentului dintr-un număr mic de exemple.
Perplexity
O metrică a modelului de limbă care măsoară cât de surprins este modelul de adevăratele simboluri următoare.
Decodare speculativă
O metodă de accelerare a inferenței în care un model nefinalizat propune simboluri pe care un model mai mare le verifică în paralel.
KV Cache
Tensorii chei și valorii stocați din jetoanele anterioare care permit transformatorilor să genereze noi jetoane fără a recalcula atenția din trecut.

Aflați mai multe în ghidurile noastre gratuite

Typical SamplingSpeculative Sampling VerificationEntropy-Based SamplingEarly Stopping

Vezi și

Tool UseTokenizationTransfer LearningTokenTransformerTemperatureTraining LossSystem Prompt
Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite