Istilah Glosarium AI

Apa itu Penyempurnaan Efisien Parameter (PEFT)?

Definisi

Metode yang mengadaptasi model dengan melatih sebagian kecil parameter tambahan.

Jelajahi Glosarium AI selengkapnyaJelajahi semua panduan AI gratis

Istilah terkait

PenyempurnaanMelanjutkan pelatihan pada data spesifik domain untuk mengadaptasi model yang telah dilatih sebelumnya ke tugas tertentu.LoRA (Adaptasi Tingkat Rendah)Metode penyesuaian parameter yang efisien yang menambahkan matriks adaptor peringkat rendah.Pasca pelatihanLangkah-langkah pelatihan diterapkan setelah pra-pelatihan, seperti penyetelan instruksi, optimalisasi preferensi, dan penyetelan keselamatan.Penyetelan InstruksiMenyempurnakan model pasangan instruksi-respons untuk meningkatkan kemampuan mengikuti tugas.Kecepatan PembelajaranHyperparameter pelatihan yang mengontrol seberapa banyak parameter berubah setiap langkah pembaruan.DPO (Optimasi Preferensi Langsung)Metode pelatihan yang menyempurnakan model secara langsung pada pasangan preferensi tanpa memerlukan model imbalan terpisah.

Pelajari lebih lanjut di panduan gratis kami

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

Lihat juga

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining