Apprendre Actus Outils Emplois Mission

Terme du glossaire IA

Qu’est-ce que Décodage gardé ?

Définition

Une stratégie de génération qui limite les jetons de sortie à des structures valides ou à des choix conformes aux politiques.

Parcourez le glossaire complet de l'IA Explorez tous les guides gratuits sur l'IA

Échantillonnage Top-kUne stratégie de décodage qui échantillonne uniquement à partir des k prochains jetons les plus probables.Échantillonnage Top-p (noyau)Une stratégie de décodage qui échantillonne à partir du plus petit ensemble de jetons dont la somme des probabilités est p.Analyseur de sortieLogique qui valide et convertit la sortie du modèle en structures fortement typées et utilisables par la machine.Décodage spéculatifUne méthode d'accélération d'inférence dans laquelle un petit projet de modèle propose des jetons qu'un modèle plus grand vérifie en parallèle.Pénalité de répétitionUn paramètre de décodage qui réduit la probabilité que le modèle ait déjà produit des jetons pour réduire les boucles.Pénalité de fréquenceUn paramètre de décodage qui réduit la probabilité d'apparition de jetons proportionnellement à la fréquence à laquelle ils sont apparus jusqu'à présent.

Apprenez-en davantage dans nos guides gratuits

Contrastive Decoding Minimum Bayes Risk Decoding Self-Consistency Decoding Medusa Decoding Heads

Voir aussi

Groundedness Human Preference Model Feature Store Inference Endpoint Eval Harness Knowledge Base Embedding Model Latent Space