다중 작업 학습 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 훈련 중에 다중 작업 학습 모델은 어떻게 설정됩니까?
   • 공유 표현을 사용하여 여러 관련 작업에 대해 하나의 모델 훈련
   • 모든 작업에 대해 별도의 모델 학습
   • 단일 작업에 레이블이 없는 데이터만 사용
   • 네트워크에서 모든 숨겨진 레이어 제거
2. 일반적인 하드 매개변수 공유 MTL 네트워크에서 공유되는 것과 분리되는 것은 무엇입니까?
   • 모든 것이 작업별로 분리되어 있습니다.
   • 작업별 출력 헤드가 있는 공유 백본
   • 손실함수만 공유
   • 입력 데이터만 있고 레이어는 사용하지 않음
3. 다중 작업 학습이 일반화를 향상할 수 있는 이유는 무엇입니까?
   • 데이터가 필요하지 않습니다.
   • 훈련 오류 제로를 보장합니다.
   • 관련 작업의 신호는 공유 표현을 정규화하고 과적합을 줄입니다.
   • 작업별 헤드가 필요하지 않습니다.
4. 멀티 태스킹 학습에서 '부정적 전이'란 무엇입니까?
   • 작업을 추가하면 훈련 속도가 빨라집니다.
   • 모델에 매개변수가 너무 적은 경우
   • 모든 작업이 동일한 라벨을 공유하는 경우
   • 한 작업의 학습이 충돌하는 신호로 인해 다른 작업의 성능을 저하시키는 경우
5. 다중 작업 학습에서 전체 손실은 일반적으로 어떻게 형성됩니까?
   • 개별 작업 손실의 가중 합계
   • 가장 큰 작업 손실만 취하여
   • 하나의 작업을 제외하고 모두 무시함으로써
   • 손실을 곱하면
6. 대규모 언어 모델이 본질적으로 다중 작업으로 간주되는 이유는 무엇입니까?
   • 고정된 작업은 하나만 수행할 수 있습니다.
   • 단일 네트워크에서 번역, 요약, 코딩, Q&A를 처리합니다.
   • 각 프롬프트마다 다른 모델을 사용합니다.
   • 작업 간에 매개변수를 공유하지 않습니다.
7. In soft parameter sharing, how are task models usually related?
   • They use one identical model with no task-specific outputs
   • They share no information and cannot exchange features
   • They keep separate parameters but add a constraint or penalty encouraging similarity
   • They share only the training labels
8. What does PCGrad do when two task gradients conflict?
   • It discards every task except the largest one
   • It changes the task labels
   • It replaces the shared backbone with separate datasets
   • It projects away conflicting gradient components before combining updates