QLoRA 및 4비트 미세 조정 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. QLoRA의 '4비트' 부분 뒤에 숨겨진 핵심 메모리 절약 아이디어는 무엇입니까?
   • 고정된 기본 모델의 가중치를 각각 4비트까지 양자화합니다.
   • 모델 레이어의 75%를 삭제합니다.
   • 단 4개의 에포크에서만 모델을 훈련합니다.
   • 많은 GPU 대신 4개의 GPU만 사용합니다.
2. QLoRA 미세 조정 중에 경사하강법에 의해 실제로 업데이트되는 매개변수는 무엇입니까?
   • 모델의 모든 원래 가중치
   • 소형 하위 LoRA 어댑터 매트릭스만
   • 4비트 양자화 상수
   • 토크나이저의 어휘
3. QLoRA의 맥락에서 NF4란 무엇입니까?
   • 4층 신경망
   • 새로운 최적화 알고리즘
   • 정규 분포 가중치에 최적화된 4비트 데이터 유형
   • 4노드 GPU 클러스터 형식
4. QLoRA의 '페이징 최적화'는 어떤 문제를 해결합니까?
   • 모델 파일의 인터넷 다운로드 속도가 느림
   • 잘못된 토큰화
   • 작은 데이터세트에 대한 과적합
   • 긴 시퀀스 중 메모리 부족 급증
5. 훈련 중에 4비트 가중치가 언제 다시 더 높은 정밀도로 변환됩니까?
   • 행렬 곱셈 중 적시에 폐기됨
   • 그들은 결코 회심하지 않습니다. 수학은 4비트로 이루어진다
   • 훈련 시작 시 단 한 번만
   • 훈련이 끝난 후에야
6. 원본 QLoRA 논문은 품질에 대해 무엇을 보여주나요?
   • 4비트 미세 조정은 항상 전체 미세 조정보다 우수합니다.
   • 하나의 GPU에서 65B 모델을 미세 조정하면 전체 16비트 미세 조정 품질과 일치할 수 있습니다.
   • 양자화는 8비트 미만의 모델을 쓸모없게 만듭니다.
   • 작은 모델만 이 방법으로 미세 조정할 수 있습니다.
7. What does QLoRA’s double-quantization step compress?
   • 토크나이저 어휘
   • The LoRA adapter rank
   • The quantization constants used to represent the 4-bit weights
   • The training examples’ text labels
8. How can one QLoRA base model support multiple task-specific versions?
   • They delete the optimizer state after every token
   • They increase the base model from 4-bit to 32-bit
   • They move all activations into the tokenizer
   • Reuse the frozen 4-bit base and swap small trainable LoRA adapters for different tasks