ガイド連動クイズ · 中 レベル
シーケンス間モデルに関するクイズ
エンコーダ/デコーダ モデルがアテンション メカニズムとクロス アテンション メカニズムを使用して、入力シーケンスを異なる長さの出力にマッピングする方法を学びます。
質問 1 の 8
シーケンス間モデルの 2 つの主要コンポーネントは何ですか?
すべての質問をプレビューする8 質問
クイズに答えると、答えと解説が表示されます。
- シーケンス間モデルの 2 つの主要コンポーネントは何ですか?
- エンコーダとデコーダ
- トークナイザーと分類子
- 2 つの同一のエンコーダー
- フィルターとランカー
- seq2seq モデルでアテンション メカニズムが解決した重要な問題は何ですか?
- トークン化が遅い
- 長い入力に対する固定長ベクトルのボトルネック
- 語彙力の不足
- 過剰なトレーニングデータ
- オリジナルの 2014 seq2seq 変換モデルはどのようなアーキテクチャを使用しましたか?
- 畳み込みネットワーク
- ディシジョンツリー
- スタックされた LSTM
- 裸のフィードフォワード層
- 注意は各デコードステップのコンテキストをどのように構築するのでしょうか?
- すべての入力トークンを均等に平均することによって
- エンコーダーを完全に無視することで
- 最後の入力トークンをコピーすることによって
- アライメントスコアを使用したエンコーダ状態の加重合計による
- seq2seq の出力の長さが入力と異なる場合があるのはなぜですか?
- デコーダは停止信号を発行するまでトークンを生成します。
- 入力と出力は常に同じ長さです
- エンコーダーがすべてをパディングします
- 長さはあらかじめ決まっている
- Transformer ベースの seq2seq アーキテクチャで人気のある最新のモデルはどれですか?
- ResNet と VGG
- T5 と BART
- K 平均法と PCA
- Word2Vec と GloVe
- In encoder-decoder attention, which representations are commonly used as keys and values?
- Only the decoder’s future hidden states
- The vocabulary file’s byte offsets
- The encoder’s output representations
- The optimizer’s learning-rate history
- What does a bidirectional encoder provide to an attention-based decoder?
- A fixed one-token output regardless of the input
- A guarantee that output length equals input length
- A causal mask over future target tokens
- Contextual representations of source tokens that can use information from both directions