Istilah Glosari AI

Apakah QLoRA?

Definisi

Teknik penalaan halus yang menggabungkan pengkuantitian berat 4-bit dengan penyesuai LoRA untuk mengurangkan keperluan memori.

Semak imbas Glosari AI penuhTerokai semua panduan AI percuma

Istilah berkaitan

LoRA (Penyesuaian Peringkat Rendah)Kaedah penalaan halus yang cekap parameter yang menambah matriks penyesuai peringkat rendah.KuantisasiMenukar pemberat model kepada format ketepatan yang lebih rendah seperti 8-bit atau 4-bit.Penalaan HalusMeneruskan latihan tentang data khusus domain untuk menyesuaikan model pra-latihan kepada tugas tertentu.Penalaan ArahanMemperhalusi model pada pasangan arahan-tindak balas untuk menambah baik mengikut tugasan.Kuantiti ModelMengurangkan ketepatan berangka berat model untuk mengurangkan kos ingatan dan inferens.Penalaan Halus Cekap Parameter (PEFT)Kaedah yang menyesuaikan model dengan melatih subset kecil parameter tambahan.

Ketahui lebih lanjut dalam panduan percuma kami

QLoRA and 4-Bit Fine-Tuning

Lihat juga

DPO (Direct Preference Optimization)Flash AttentionTree of ThoughtsMulti-Head AttentionReActPositional EncodingAgentic LoopRoPE (Rotary Positional Embeddings)