引導式測驗 · 中等 等級
光束搜尋測驗
探索集束搜尋如何保留多個高分部分序列以及評分罰分如何塑造最終輸出文字。
問題 1 的 8
波束搜尋中「波束寬度」(k) 控制什麼?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- 波束搜尋中「波束寬度」(k) 控制什麼?
- 每個解碼步驟保留多少個部分候選序列
- 產生序列的最大長度
- 應用於機率的溫度
- 模型詞彙量的大小
- 束搜尋與貪婪解碼有何不同?
- 它總是選擇機率最高的單一令牌
- 它保留多個高分部分序列,而不是致力於一個
- 它隨機採樣令牌
- 它完全忽略了令牌機率
- 為什麼長度歸一化常用於集束搜尋?
- 為了使生成速度更快
- 增加詞彙量
- 因為對數機率求和會使分數偏向較短的序列
- 為輸出添加隨機性
- 集束搜尋特別適合哪種任務?
- 開放式的創意敘事
- 產生最大程度多樣化的隨機文本
- 創作不可預測的詩篇
- 機器翻譯,需要忠實的高機率輸出
- 使用非常大的波束寬度進行開放式發電的已知缺點是什麼?
- 它可能會產生平淡、重複或簡陋的文本
- 它保證了最具創意的輸出
- 它消除了對任何機率模型的需要
- 它使模型忽略輸入
- 在每一步中,集束搜尋如何決定保留哪些候選者?
- 按標記的字母順序排列
- 透過累積分數(對數機率總和),保留前 k 個
- 通過選擇最長的候選人
- 在所有候選人中隨機選擇
- What problem does GNMT’s coverage penalty aim to reduce in translation?
- Repeatedly encoding the same source vocabulary
- The use of subword units
- Output translations that fail to cover source words
- The number of encoder layers
- What does diverse beam search modify to encourage different candidate outputs?
- It replaces the model probabilities with uniform random scores
- It removes all but one candidate at the first step
- It changes the training tokenizer after decoding
- It penalizes similarity or overlap among candidates in different beam groups