Quiz połączony z przewodnikiem · Średni Poziom

QLoRA i 4-bitowy quiz dostrajający

Przejrzyj zamrożoną 4-bitową bazę QLoRA, możliwe do wyszkolenia adaptery niskiego rzędu, NF4, podwójną kwantyzację, optymalizatory stronicowane i tymczasową dekwantyzację.

Powiązane ścieżki prowadząceQlora i 4-bitowe dostrajanie
Pytanie 1 z 8

Jaki jest główny pomysł oszczędzania pamięci stojący za „4-bitową” częścią QLoRA?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. Jaki jest główny pomysł oszczędzania pamięci stojący za „4-bitową” częścią QLoRA?
    • Kwantyzuje wagi zamrożonego modelu podstawowego do 4 bitów każdy
    • Usuwa 75% warstw modelu
    • Uczy model w zaledwie 4 epokach
    • Wykorzystuje tylko 4 procesory graficzne zamiast wielu
  2. Które parametry są faktycznie aktualizowane podczas dostrajania QLoRA w wyniku opadania gradientu?
    • Wszystkie oryginalne obciążniki modelu
    • Tylko małe matryce adapterów LoRA niskiej rangi
    • 4-bitowe stałe kwantyzacji
    • Słownictwo tokenizatora
  3. Czym jest NF4 w kontekście QLoRA?
    • Czterowarstwowa sieć neuronowa
    • Nowy algorytm optymalizatora
    • 4-bitowy typ danych zoptymalizowany pod kątem wag o rozkładzie normalnym
    • Format klastra GPU z 4 węzłami
  4. Jaki problem mają „optymalizatory stronicowane” w adresie QLoRA?
    • Powolne pobieranie plików modeli z Internetu
    • Nieprawidłowa tokenizacja
    • Nadmierne dopasowanie w małych zbiorach danych
    • Skoki braku pamięci podczas długich sekwencji
  5. Kiedy podczas uczenia 4-bitowe wagi są konwertowane z powrotem na większą precyzję?
    • W samą porę podczas mnożenia macierzy, a następnie odrzucane
    • Nigdy się nie nawracają; matematyka jest wykonywana w 4 bitach
    • Tylko raz na samym początku treningu
    • Dopiero po ukończeniu szkolenia
  6. Co oryginalny artykuł QLoRA wykazał na temat jakości?
    • Dostrajanie 4-bitowe zawsze przewyższa pełne dostrajanie
    • Dostrajanie modelu 65B na jednym procesorze graficznym może odpowiadać pełnej jakości dostrajania 16-bitowego
    • Kwantyzacja sprawia, że modele poniżej 8 bitów są bezużyteczne
    • W ten sposób można dostroić tylko małe modele
  7. What does QLoRA’s double-quantization step compress?
    • Słownictwo tokenizera
    • The LoRA adapter rank
    • The quantization constants used to represent the 4-bit weights
    • The training examples’ text labels
  8. How can one QLoRA base model support multiple task-specific versions?
    • They delete the optimizer state after every token
    • They increase the base model from 4-bit to 32-bit
    • They move all activations into the tokenizer
    • Reuse the frozen 4-bit base and swap small trainable LoRA adapters for different tasks