Il prossimoProssima guida
Ricerca guidata del raggio con vincoli
Intelligenza artificiale linguistica
GUIDA ALL'AI linguistica
Beam search is a decoding algorithm that retains a fixed number of high-scoring partial sequences at each step.
Ascolta questa guidaNarrato dall'IA · ~2 min
It is used in sequence generation tasks, with results shaped by model scores and any normalization or penalties.
At each decoding step, beam search expands the current partial candidates and retains the top-scoring continuations. A wider beam explores more options but increases search cost and does not necessarily improve perceived quality. GNMT uses length normalization to mitigate short-output bias and a coverage penalty to encourage source-word coverage in translation. Diverse beam search modifies group selection to reduce redundant candidates.
A beam of width k keeps up to k partial sequences rather than only one greedy continuation.
GNMT used length normalization and a coverage penalty in its translation system.
Diverse beam search adds a penalty to reduce overlap among candidate sequences from beam groups.
For open-ended text, compare beam outputs with sampling because likelihood-ranked outputs can be repetitive or bland in the evaluated settings.
Select decoding criteria for the task and measure both search cost and output quality. For translation, report source coverage and reference-based metrics; for open-ended generation, include human evaluation where appropriate. The cited sources describe particular methods and experiments rather than a single universally best beam configuration.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Beam search is a decoding algorithm that retains a fixed number of high-scoring partial sequences at each step. It is used in sequence generation tasks, with results shaped by model scores and any normalization or penalties.
La larghezza della trave è il numero di sequenze parziali superiori mantenute ed espanse ad ogni passaggio; larghezze maggiori esplorano più candidati.
La decodifica avida richiede solo il token più in alto in ogni passaggio; siepi di ricerca del raggio tracciando simultaneamente diverse sequenze promettenti.
Ogni token aggiuntivo aggiunge una probabilità logaritmica negativa, quindi senza la normalizzazione le sequenze più brevi ottengono ingiustamente un punteggio più alto.
La ricerca del raggio eccelle quando l'obiettivo è un unico rendering accurato e fluido, motivo per cui è diventata uno standard nella traduzione.
Controintuitivamente, fasci più ampi nella generazione del testo neurale spesso favoriscono sequenze generiche e ripetitive piuttosto che sequenze interessanti.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Ricerca guidata del raggio con vincoli
Intelligenza artificiale linguistica