What is Frequency Penalty? Definition | AI Understanding

Définition

Un paramètre de décodage qui réduit la probabilité d'apparition de jetons proportionnellement à la fréquence à laquelle ils sont apparus jusqu'à présent.

Termes associés

Pénalité de présence

Un paramètre de décodage qui réduit la probabilité que des jetons apparaissent, encourageant ainsi de nouveaux sujets.

Pénalité de répétition

Un paramètre de décodage qui réduit la probabilité que le modèle ait déjà produit des jetons pour réduire les boucles.

Une métrique de modèle de langage mesurant à quel point le modèle est surpris par les vrais prochains jetons.

Échantillonnage Top-k

Une stratégie de décodage qui échantillonne uniquement à partir des k prochains jetons les plus probables.

Décodage gardé

Une stratégie de génération qui limite les jetons de sortie à des structures valides ou à des choix conformes aux politiques.

Décodage spéculatif

Une méthode d'accélération d'inférence dans laquelle un petit projet de modèle propose des jetons qu'un modèle plus grand vérifie en parallèle.

Apprenez-en davantage dans nos guides gratuits

Repetition Penalty and Decoding Controls Mel-Frequency Cepstral Coefficients

Voir aussi

Beam Search Parent-Document Retrieval Multi-Query Retrieval RAG-Fusion Self-Play Post-training Mid-training Watermarking

Parcourez le glossaire complet de l'IA Explorez tous les guides gratuits sur l'IA