Apa itu Penyempurnaan Efisien Parameter (PEFT)?

Melanjutkan pelatihan pada data spesifik domain untuk mengadaptasi model yang telah dilatih sebelumnya ke tugas tertentu.

Metode penyesuaian parameter yang efisien yang menambahkan matriks adaptor peringkat rendah.

Langkah-langkah pelatihan diterapkan setelah pra-pelatihan, seperti penyetelan instruksi, optimalisasi preferensi, dan penyetelan keselamatan.

Menyempurnakan model pasangan instruksi-respons untuk meningkatkan kemampuan mengikuti tugas.

Hyperparameter pelatihan yang mengontrol seberapa banyak parameter berubah setiap langkah pembaruan.

Metode pelatihan yang menyempurnakan model secara langsung pada pasangan preferensi tanpa memerlukan model imbalan terpisah.