マルチタスク学習クイズ

クイズに答えると、答えと解説が表示されます。

1. マルチタスク学習モデルはトレーニング中にどのように設定されますか?
   • 共有表現を使用した複数の関連タスクで 1 つのモデルをトレーニングする
   • タスクごとに個別のモデルをトレーニングする
   • 単一タスクにラベルのないデータのみを使用する
   • ネットワークからすべての隠れ層を削除する
2. 典型的なハード パラメータ共有 MTL ネットワークでは、何が共有され、何が分離されるのでしょうか?
   • すべてがタスクごとに個別に行われる
   • タスク固有の出力ヘッドを備えた共有バックボーン
   • 損失関数のみが共有される
   • 入力データのみ、レイヤーは含まれない
3. マルチタスク学習により汎化能力が向上するのはなぜでしょうか?
   • データの必要がなくなります
   • トレーニングエラーがゼロであることを保証します
   • 関連タスクからのシグナルにより共有表現が正規化され、過剰適合が軽減されます。
   • タスク固有のヘッドが不要になります
4. マルチタスク学習における「負の転移」とは何ですか?
   • タスクを追加するとトレーニングがスピードアップします
   • モデルのパラメータが少なすぎる場合
   • すべてのタスクが同じラベルを共有する場合
   • 信号の矛盾により、あるタスクの学習が別のタスクのパフォーマンスに悪影響を与える場合
5. マルチタスク学習において全体的な損失は通常どのように形成されるのでしょうか?
   • 個々のタスクの損失の加重合計として
   • 最大のタスク損失のみを取ることにより
   • 1 つのタスクを除いてすべて無視することによって
   • 損失を掛け合わせると
6. 大規模な言語モデルが本質的にマルチタスクであると考えられるのはなぜですか?
   • 彼らは 1 つの固定タスクのみを実行できます
   • 単一のネットワークが翻訳、要約、コーディング、Q&A を処理します
   • プロンプトごとに異なるモデルを使用します
   • タスク間でパラメータを共有することはありません
7. In soft parameter sharing, how are task models usually related?
   • They use one identical model with no task-specific outputs
   • They share no information and cannot exchange features
   • They keep separate parameters but add a constraint or penalty encouraging similarity
   • They share only the training labels
8. What does PCGrad do when two task gradients conflict?
   • It discards every task except the largest one
   • It changes the task labels
   • It replaces the shared backbone with separate datasets
   • It projects away conflicting gradient components before combining updates