Învață Știri Unelte Joburi Misiune

Termen de glosar AI

Ce este Eșantionarea top-k?

Definiție

O strategie de decodare care prelevează numai din cele k cele mai probabile simboluri următoare.

Răsfoiți întregul glosar AI Explorați toate ghidurile AI gratuite

Eșantionarea top-p (Nucleus).O strategie de decodare care prelevează din cel mai mic set de jetoane ale cărui probabilități se însumează la p.Decodare păzităO strategie de generare care constrânge jetoanele de ieșire la structuri valide sau la alegeri conforme cu politicile.Învățare cu câteva lovituriÎnvățarea sau adaptarea comportamentului dintr-un număr mic de exemple.PerplexityO metrică a modelului de limbă care măsoară cât de surprins este modelul de adevăratele simboluri următoare.Decodare speculativăO metodă de accelerare a inferenței în care un model nefinalizat propune simboluri pe care un model mai mare le verifică în paralel.KV CacheTensorii chei și valorii stocați din jetoanele anterioare care permit transformatorilor să genereze noi jetoane fără a recalcula atenția din trecut.

Aflați mai multe în ghidurile noastre gratuite

Typical Sampling Speculative Sampling Verification Entropy-Based Sampling Early Stopping

Vezi și

Tool Use Tokenization Transfer Learning Token Transformer Temperature Training Loss System Prompt