Kuis terkait panduan · Sedang Tingkat

QLoRA dan Kuis Penyempurnaan 4-Bit

Tinjau basis 4-bit QLoRA yang dibekukan, adaptor tingkat rendah yang dapat dilatih, NF4, kuantisasi ganda, pengoptimal halaman, dan dekuantisasi sementara.

Jalur panduan terkaitQlora Dan Penyempurnaan 4 Bit
Pertanyaan 1 dari 8

Apa ide inti penghematan memori di balik bagian '4-bit' QLoRA?

Pratinjau setiap pertanyaan8 pertanyaan

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

  1. Apa ide inti penghematan memori di balik bagian '4-bit' QLoRA?
    • Ini mengkuantisasi bobot model dasar yang dibekukan masing-masing menjadi 4 bit
    • Ini menghapus 75% lapisan model
    • Ini melatih model hanya dalam 4 epoch
    • Ini hanya menggunakan 4 GPU, bukan banyak
  2. Selama penyempurnaan QLoRA, parameter mana yang sebenarnya diperbarui dengan penurunan gradien?
    • Semua bobot asli model
    • Hanya matriks adaptor LoRA tingkat rendah yang kecil
    • Konstanta kuantisasi 4-bit
    • Kosakata tokenizer
  3. Apa itu NF4 dalam konteks QLoRA?
    • Jaringan saraf 4 lapis
    • Algoritme pengoptimal baru
    • Tipe data 4-bit yang dioptimalkan untuk bobot yang terdistribusi normal
    • Format cluster GPU 4-node
  4. Masalah apa yang diatasi oleh 'pengoptimal halaman' di QLoRA?
    • Pengunduhan file model melalui internet lambat
    • Tokenisasi yang salah
    • Overfitting pada kumpulan data kecil
    • Lonjakan kehabisan memori selama rangkaian panjang
  5. Kapan bobot 4-bit diubah kembali ke presisi yang lebih tinggi selama pelatihan?
    • Just-in-time pada saat perkalian matriks, kemudian dibuang
    • Mereka tidak pernah bertobat; matematika dilakukan dalam 4 bit
    • Hanya sekali di awal pelatihan
    • Hanya setelah pelatihan selesai
  6. Apa yang ditunjukkan oleh makalah QLoRA asli tentang kualitas?
    • Penyetelan halus 4-bit selalu mengalahkan penyempurnaan penuh
    • Penyempurnaan model 65B pada satu GPU dapat menyamai kualitas penyempurnaan 16-bit penuh
    • Kuantisasi membuat model tidak berguna di bawah 8 bit
    • Hanya model kecil yang dapat disetel dengan baik dengan cara ini
  7. Apa yang dikompres oleh langkah kuantisasi ganda QLoRA?
    • Kosakata tokenizer
    • Peringkat adaptor LoRA
    • Konstanta kuantisasi yang digunakan untuk mewakili bobot 4-bit
    • Label teks contoh pelatihan
  8. Bagaimana satu model dasar QLoRA dapat mendukung beberapa versi tugas tertentu?
    • Mereka menghapus status pengoptimal setelah setiap token
    • Mereka meningkatkan model dasar dari 4-bit menjadi 32-bit
    • Mereka memindahkan semua aktivasi ke tokenizer
    • Gunakan kembali basis 4-bit yang dibekukan dan tukar adaptor LoRA kecil yang dapat dilatih untuk tugas yang berbeda