Apprendre Actus Outils Emplois Mission

Terme du glossaire IA

Qu’est-ce que Pénalité de présence ?

Définition

Un paramètre de décodage qui réduit la probabilité que des jetons apparaissent, encourageant ainsi de nouveaux sujets.

Parcourez le glossaire complet de l'IA Explorez tous les guides gratuits sur l'IA

Pénalité de fréquenceUn paramètre de décodage qui réduit la probabilité d'apparition de jetons proportionnellement à la fréquence à laquelle ils sont apparus jusqu'à présent.Pénalité de répétitionUn paramètre de décodage qui réduit la probabilité que le modèle ait déjà produit des jetons pour réduire les boucles.Échantillonnage Top-kUne stratégie de décodage qui échantillonne uniquement à partir des k prochains jetons les plus probables.Décodage gardéUne stratégie de génération qui limite les jetons de sortie à des structures valides ou à des choix conformes aux politiques.Décodage spéculatifUne méthode d'accélération d'inférence dans laquelle un petit projet de modèle propose des jetons qu'un modèle plus grand vérifie en parallèle.Cache KVTenseurs de clé et de valeur stockés des jetons précédents qui permettent aux transformateurs de générer de nouveaux jetons sans recalculer l'attention passée.

Apprenez-en davantage dans nos guides gratuits

Repetition Penalty and Decoding Controls

Voir aussi

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking