전송 퀴즈를 위한 어댑터 계층

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 어댑터를 사용하여 훈련할 때 원래 사전 훈련된 가중치는 어떻게 되나요?
   • 어댑터 매개변수만 훈련되는 동안에는 고정됩니다.
   • 삭제되었습니다
   • 무작위로 다시 초기화됩니다.
   • 크기가 두 배로 늘어났습니다.
2. 병목 현상 어댑터의 일반적인 내부 구조는 무엇입니까?
   • 하나의 거대하고 조밀한 층
   • 하향 투영, 비선형성, 그리고 잔여 연결이 있는 상향 투영
   • 주의 머리만
   • 컨벌루션 이미지 필터
3. 어댑터는 일반적으로 대략 어느 정도의 매개변수를 훈련합니까?
   • 100%
   • 정확히 50%
   • 종종 5% 미만
   • 전혀 없음
4. 많은 작업을 처리하는 데 어댑터가 편리한 이유는 무엇입니까?
   • 작업별로 별도의 전체 모델 사본이 필요합니다.
   • 결합할 수 없습니다.
   • 각 작업 후에 기본 모델을 지웁니다.
   • 하나의 기본 모델을 유지하고 작은 작업별 어댑터를 교체합니다.
5. 어댑터는 어떤 기술 계열에 속합니까?
   • 매개변수 효율적인 미세 조정(PEFT)
   • 데이터 증대
   • 이미지 압축
   • 토큰화 계획
6. 추론 시 LoRA는 기존 삽입 어댑터에 비해 어떤 이점을 제공합니까?
   • 훈련할 수는 없지
   • 학습된 가중치를 기본 행렬에 병합하여 추가 레이어당 지연 시간을 피할 수 있습니다.
   • 전체 모델을 재교육해야 합니다.
   • 잔여 연결을 영구적으로 제거합니다.
7. What does a residual connection contribute to a classic bottleneck adapter?
   • A second full pretrained model copy for each task
   • A mandatory external retrieval database
   • A path that adds the adapter’s transformed representation back to the original hidden state
   • A guarantee that no added computation occurs
8. What is one benefit of stacking a domain adapter with a task adapter?
   • Merge all user data into the frozen base weights automatically
   • Avoid using any adapter modules
   • Convert a language model into a vision encoder
   • Reuse a domain specialization together with a separate task specialization