ビームサーチクイズ

クイズに答えると、答えと解説が表示されます。

1. ビーム探索における「ビーム幅」(k) は何を制御しますか?
   • 各復号化ステップで保持される部分候補シーケンスの数
   • 生成されるシーケンスの最大長
   • 確率に適用される温度
   • モデルの語彙のサイズ
2. ビームサーチは貪欲なデコードとどう違うのでしょうか?
   • 常に、最も確率の高い単一のトークンを選択します。
   • 1 つのシーケンスにコミットするのではなく、複数の高スコアの部分シーケンスを保持します。
   • トークンをランダムにサンプリングします
   • トークンの確率を完全に無視します
3. 長さの正規化がビーム探索に一般的に適用されるのはなぜですか?
   • 生成を高速化するには
   • 語彙の量を増やすには
   • 対数確率を合計するとスコアが短いシーケンスに偏るため
   • 出力にランダム性を追加するには
4. ビームサーチはどのタスクに特に適していますか?
   • 自由な創造的なストーリーテリング
   • 最大限に多様なランダムテキストを生成する
   • 予測不可能な詩を生み出す
   • 機械翻訳。忠実で確率の高い出力が求められる場合
5. オープンエンド生成に非常に大きなビーム幅を使用する場合の既知の欠点は何ですか?
   • 当たり障りのない、繰り返しの多い、または劣化したテキストが生成される可能性があります
   • 最もクリエイティブな出力を保証します
   • 確率モデルが不要になります
   • モデルは入力を無視します
6. 各ステップで、ビーム検索はどの候補を保持するかをどのように決定するのでしょうか?
   • トークンのアルファベット順
   • 累積スコア (対数確率の合計) により、上位 k を維持
   • 最も長い候補を選択することにより
   • 全候補者の中から無作為に選出
7. What problem does GNMT’s coverage penalty aim to reduce in translation?
   • Repeatedly encoding the same source vocabulary
   • The use of subword units
   • Output translations that fail to cover source words
   • The number of encoder layers
8. What does diverse beam search modify to encourage different candidate outputs?
   • It replaces the model probabilities with uniform random scores
   • It removes all but one candidate at the first step
   • It changes the training tokenizer after decoding
   • It penalizes similarity or overlap among candidates in different beam groups