À suivreGuide suivant
Recherche de poutre guidée avec contraintes
IA linguistique
GUIDE IA du langage
Beam search is a decoding algorithm that retains a fixed number of high-scoring partial sequences at each step.
Écoutez ce guideNarré par l'IA · ~2 min
It is used in sequence generation tasks, with results shaped by model scores and any normalization or penalties.
At each decoding step, beam search expands the current partial candidates and retains the top-scoring continuations. A wider beam explores more options but increases search cost and does not necessarily improve perceived quality. GNMT uses length normalization to mitigate short-output bias and a coverage penalty to encourage source-word coverage in translation. Diverse beam search modifies group selection to reduce redundant candidates.
A beam of width k keeps up to k partial sequences rather than only one greedy continuation.
GNMT used length normalization and a coverage penalty in its translation system.
Diverse beam search adds a penalty to reduce overlap among candidate sequences from beam groups.
For open-ended text, compare beam outputs with sampling because likelihood-ranked outputs can be repetitive or bland in the evaluated settings.
Select decoding criteria for the task and measure both search cost and output quality. For translation, report source coverage and reference-based metrics; for open-ended generation, include human evaluation where appropriate. The cited sources describe particular methods and experiments rather than a single universally best beam configuration.
Newsletter gratuite
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Beam search is a decoding algorithm that retains a fixed number of high-scoring partial sequences at each step. It is used in sequence generation tasks, with results shaped by model scores and any normalization or penalties.
La largeur du faisceau est le nombre de séquences partielles supérieures conservées et développées à chaque étape ; des largeurs plus grandes explorent plus de candidats.
Le décodage gourmand ne prend que le jeton supérieur à chaque étape ; des haies de recherche de faisceaux en suivant simultanément plusieurs séquences prometteuses.
Chaque jeton supplémentaire ajoute une probabilité journalière négative, donc sans normalisation, les séquences plus courtes obtiennent injustement un score plus élevé.
La recherche par faisceau excelle lorsque l’objectif est un rendu unique, précis et fluide, c’est pourquoi elle est devenue la norme en traduction.
Contre-intuitivement, des faisceaux plus larges dans la génération de texte neuronal favorisent souvent les séquences génériques et répétitives plutôt que les séquences intéressantes.
Continuez à apprendre
Plus de guides sélectionnés pour ce sujet
À suivreGuide suivant
Recherche de poutre guidée avec contraintes
IA linguistique