What is Parameter-Efficient Fine-Tuning (PEFT)? Definition | AI Understanding

Definicja

Metody dostosowujące modele poprzez uczenie małego podzbioru dodanych parametrów.

Powiązane terminy

Kontynuowanie szkolenia na danych specyficznych dla domeny w celu dostosowania wstępnie wyszkolonego modelu do konkretnego zadania.

LoRA (adaptacja niskiej rangi)

Efektywna pod względem parametrów metoda dostrajania, która dodaje macierze adapterów o niskim stopniu rangi.

Etapy treningu stosowane po treningu wstępnym, takie jak dostrajanie instrukcji, optymalizacja preferencji i dostrajanie bezpieczeństwa.

Instrukcja strojenia

Dostrajanie modelu par instrukcja-odpowiedź w celu poprawy wykonywania zadań.

Szybkość uczenia się

Hiperparametr szkoleniowy kontrolujący stopień zmiany parametrów w każdym kroku aktualizacji.

DPO (bezpośrednia optymalizacja preferencji)

Metoda uczenia, która dostraja modele bezpośrednio na parach preferencji, bez konieczności stosowania osobnego modelu nagrody.

Dowiedz się więcej z naszych bezpłatnych przewodników

Fine-Tuning Hard Parameter Sharing in Multi-Task Networks Gumbel-Softmax and Reparameterization Rejection Sampling Fine-Tuning

Zobacz także

Parameter Perplexity Overfitting Pipeline Open-Source Model Precision OCR (Optical Character Recognition)Pretraining

Przejrzyj pełny słownik AI Przeglądaj wszystkie bezpłatne przewodniki AI