Termen de glosar AI

Ce este Pedeapsa de prezenta?

Definiție

O setare de decodare care reduce probabilitatea de apariție a jetoanelor, încurajând subiecte noi.

Termeni înrudiți

Frecvență penalizare
O setare de decodare care reduce probabilitatea de jetoane proporțional cu cât de des au apărut până acum.
Pedeapsa de repetare
O setare de decodare care scade probabilitatea de jetoane pe care modelul le-a produs deja pentru a reduce buclele.
Eșantionarea top-k
O strategie de decodare care prelevează numai din cele k cele mai probabile simboluri următoare.
Decodare păzită
O strategie de generare care constrânge jetoanele de ieșire la structuri valide sau la alegeri conforme cu politicile.
Decodare speculativă
O metodă de accelerare a inferenței în care un model nefinalizat propune simboluri pe care un model mai mare le verifică în paralel.
KV Cache
Tensorii chei și valorii stocați din jetoanele anterioare care permit transformatorilor să genereze noi jetoane fără a recalcula atenția din trecut.

Aflați mai multe în ghidurile noastre gratuite

Repetition Penalty and Decoding Controls

Vezi și

Beam SearchParent-Document RetrievalMulti-Query RetrievalRAG-FusionSelf-PlayPost-trainingMid-trainingWatermarking
Răsfoiți întregul glosar AIExplorați toate ghidurile AI gratuite