Apa itu LoRA (Adaptasi Tingkat Rendah)?

Metode yang mengadaptasi model dengan melatih sebagian kecil parameter tambahan.

Teknik penyempurnaan yang menggabungkan kuantisasi bobot 4-bit dengan adaptor LoRA untuk mengurangi kebutuhan memori.

Melanjutkan pelatihan pada data spesifik domain untuk mengadaptasi model yang telah dilatih sebelumnya ke tugas tertentu.

Menyempurnakan model pasangan instruksi-respons untuk meningkatkan kemampuan mengikuti tugas.

Metode pelatihan yang menyempurnakan model secara langsung pada pasangan preferensi tanpa memerlukan model imbalan terpisah.

Metode regularisasi yang memperhalus label keras untuk meningkatkan generalisasi.