Nucleus および Top-k サンプリングのクイズ

クイズに答えると、答えと解説が表示されます。

1. Top-k サンプリングはトークンの選択をどのように制限しますか?
   • k 個の最も確率の高いトークンのみを保持し、それらの中からサンプルを抽出します。
   • 累積確率がkを超えるまでトークンを保持します
   • 常に、最も可能性の高い単一のトークンを選択します
   • 最も可能性の低い k 個のトークンのみを削除します
2. 核 (top-p) サンプリングにおける「核」を定義するものは何ですか?
   • トレーニング データ内で最も頻繁に使用される k 個の単語
   • 確率の合計が少なくとも p になるトークンの最小セット
   • 最も確率の高い単一のトークン
   • 確率が 50% を超えるすべてのトークン
3. top-k に対する top-p の主な利点は何ですか?
   • 計算は常に高速です
   • ランダムな出力を生成することはありません
   • 候補トークンの数はモデルの信頼度に適応します
   • トークンの確率を無視します
4. サンプリング前に温度パラメータは何をしますか?
   • 最大シーケンス長を設定します
   • 出力言語を選択します
   • 語彙のサイズをカウントします
   • 確率分布を再スケールして、よりシャープまたはフラットにします。
5. 核サンプリング論文は、テストされたオープンエンド生成タスクについてどのような結果を報告しましたか?
   • It improved diversity without sacrificing fluency and coherence in the reported comparisons
   • It guaranteed factual correctness in every output
   • It eliminated all sampling randomness
   • It improved translation quality on every benchmark
6. For a greedy decoding baseline with no token sampling, how should generation be configured?
   • Disable sampling and use greedy decoding to select the highest-probability token at each step
   • Use high temperature and a large nucleus threshold
   • Randomize the temperature at every step
   • Keep sampling enabled but increase top-p
7. After top-k truncation removes tokens, what happens to the remaining sampling probabilities?
   • They remain assigned their original total mass below one
   • They are replaced with equal probabilities
   • They are renormalized over the retained top-k tokens
   • They are converted into beam-search scores
8. What did Holtzman et al. report about likelihood-maximizing decoding for open-ended text?
   • It always yields the most diverse human-like passages
   • 言語モデルが不要になります
   • It guarantees factual correctness
   • It can produce bland and repetitive text despite strong likelihood scores