ガイド連動クイズ · 中 レベル

ロングコンテキストモデリングのクイズ

コンテキスト ウィンドウ、アテンション コスト、位置依存の取得、FlashAttendant、および効果的なコンテキストの使用の評価を確認します。

関連するガイドパス長いコンテキストのモデリング
質問 1 の 8

モデルの「コンテキスト ウィンドウ」とは何を指しますか?

すべての質問をプレビューする8 質問

クイズに答えると、答えと解説が表示されます。

  1. モデルの「コンテキスト ウィンドウ」とは何を指しますか?
    • 1 回のパスで処理できるトークンの最大数
    • チャットインターフェースの画面サイズ
    • 同時に許可されるユーザーの数
    • モデルがトレーニングされた時間
  2. 長い入力の場合、標準的な自己注意力が高くなるのはなぜですか?
    • 直線的に成長し、常に安い
    • そのコンピューティングとメモリはシーケンスの長さに応じて二次関数的に増加します
    • 複数のトークンを読み取ることはできません
    • 画像に対してのみ機能します
  3. 「途中で迷った」問題とは何ですか?
    • モデルはトレーニングを完全に忘れます
    • モデルは文書の中央部分しか読み取ることができません
    • モデルは、長い入力の途中に埋もれた事実よりも、最初と最後の情報をよく思い出します。
    • モデルは中間部分を別の言語に翻訳します
  4. FlashAttention は主に何を改善しますか?
    • モデルが長いテキストを出力するようになります
    • トレーニングデータを自動的に追加します
    • あらゆる注意を払う必要がなくなります
    • IO を意識したタイル計算によりメモリのボトルネックを軽減します。
  5. ロータリー位置エンベディング (RoPE) はロングコンテキスト モデルでどのような役割を果たしますか?
    • これらはトークンの位置をエンコードし、補間を使用してより長いシーケンスに一般化するのに役立ちます。
    • 入力からトークンを削除します
    • 言語間でテキストを翻訳します
    • モデルの重みを保存します
  6. What does prompt-cache research reuse across compatible requests?
    • The final answer regardless of the new query
    • Computed attention state for reusable prompt segments
    • A fixed set of token IDs without model computation
    • モデルのトレーニング データ
  7. What does the RULER benchmark add beyond locating one isolated “needle” fact?
    • 画像分類のみ
    • Audio transcription from waveforms
    • Tasks such as multi-hop tracing and aggregation over long contexts
    • GPU memory allocation benchmarks
  8. Why test several task types when measuring a model’s effective context length?
    • Every task uses the same computation
    • The advertised window guarantees all tasks work
    • Task type never affects context use
    • A model may handle simple retrieval yet fail to combine or track information across a long input