Învață Știri Unelte Joburi Misiune

Termen de glosar AI

Ce este Pedeapsa de prezenta?

Definiție

O setare de decodare care reduce probabilitatea de apariție a jetoanelor, încurajând subiecte noi.

Răsfoiți întregul glosar AI Explorați toate ghidurile AI gratuite

Frecvență penalizareO setare de decodare care reduce probabilitatea de jetoane proporțional cu cât de des au apărut până acum.Pedeapsa de repetareO setare de decodare care scade probabilitatea de jetoane pe care modelul le-a produs deja pentru a reduce buclele.Eșantionarea top-kO strategie de decodare care prelevează numai din cele k cele mai probabile simboluri următoare.Decodare păzităO strategie de generare care constrânge jetoanele de ieșire la structuri valide sau la alegeri conforme cu politicile.Decodare speculativăO metodă de accelerare a inferenței în care un model nefinalizat propune simboluri pe care un model mai mare le verifică în paralel.KV CacheTensorii chei și valorii stocați din jetoanele anterioare care permit transformatorilor să genereze noi jetoane fără a recalcula atenția din trecut.

Aflați mai multe în ghidurile noastre gratuite

Repetition Penalty and Decoding Controls

Vezi și

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking