프롬프트 튜닝 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 프롬프트 튜닝에서 '소프트 프롬프트'란 무엇입니까?
   • 실제 단어에 매핑할 필요가 없는 학습된 연속 임베딩 벡터
   • 정중하게 표현된 텍스트 지침
   • 모델의 작은 증류 사본
   • 고정된 출력 로짓 세트
2. 프롬프트 조정은 훈련 가능한 벡터를 어디에 추가합니까?
   • 모든 트랜스포머 레이어에서
   • 입력 임베딩 레이어에서만
   • 출력층에서만
   • 최적화 상태 내부
3. 원본 논문에서는 모델 규모에 대해 어떤 놀라운 효과를 강조했습니까?
   • 모델이 성장함에 따라 신속한 조정이 더욱 악화됨
   • 규모는 신속한 조정에 영향을 미치지 않습니다.
   • 모델이 커짐에 따라 신속한 조정이 전체 미세 조정 품질에 접근합니다.
   • 더 큰 모델은 더 이상 즉시 조정할 수 없습니다.
4. 프롬프트 튜닝을 도입한 사람은 누구입니까?
   • 2016년 딥마인드
   • 2023년에 Anthropic
   • 2019년 Microsoft
   • 2021년 Google(Lester, Al-Rfou, Constant)의 연구원
5. 프롬프트 튜닝을 통해 어떻게 하나의 모델에서 많은 작업을 처리할 수 있나요?
   • 모델이 정지된 동안 각 작업은 자체의 작은 소프트 프롬프트를 사용합니다.
   • 각 요청에 대해 전체 모델을 재교육합니다.
   • 가중치에서 사용하지 않는 작업을 삭제합니다.
   • 작업마다 별도의 GPU가 필요합니다.
6. How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
   • As a replacement for frozen language models
   • As a simpler related method that the paper compares with prefix tuning
   • As a tokenizer with no trainable parameters
   • As a method that updates every model weight
7. Which model family did Lester and colleagues use to study prompt tuning across scales?
   • 웨이브넷
   • AlphaFold2
   • T5
   • 고립된 숲
8. How are soft prompts optimized in prompt tuning?
   • By changing all model weights for each task
   • By replacing embeddings with hard-coded words only
   • By training a new tokenizer for every example
   • By backpropagation through a frozen language model to update the prompt vectors