Termin ze słownika AI

Czym jest Dostrajanie efektywne pod względem parametrów (PEFT)?

Definicja

Metody dostosowujące modele poprzez uczenie małego podzbioru dodanych parametrów.

Przejrzyj pełny słownik AIPrzeglądaj wszystkie bezpłatne przewodniki AI

Powiązane terminy

DostrajanieKontynuowanie szkolenia na danych specyficznych dla domeny w celu dostosowania wstępnie wyszkolonego modelu do konkretnego zadania.LoRA (adaptacja niskiej rangi)Efektywna pod względem parametrów metoda dostrajania, która dodaje macierze adapterów o niskim stopniu rangi.Po treninguEtapy treningu stosowane po treningu wstępnym, takie jak dostrajanie instrukcji, optymalizacja preferencji i dostrajanie bezpieczeństwa.Instrukcja strojeniaDostrajanie modelu par instrukcja-odpowiedź w celu poprawy wykonywania zadań.Szybkość uczenia sięHiperparametr szkoleniowy kontrolujący stopień zmiany parametrów w każdym kroku aktualizacji.DPO (bezpośrednia optymalizacja preferencji)Metoda uczenia, która dostraja modele bezpośrednio na parach preferencji, bez konieczności stosowania osobnego modelu nagrody.

Dowiedz się więcej z naszych bezpłatnych przewodników

Fine-TuningHard Parameter Sharing in Multi-Task NetworksGumbel-Softmax and ReparameterizationRejection Sampling Fine-Tuning

Zobacz także

ParameterPerplexityOverfittingPipelineOpen-Source ModelPrecisionOCR (Optical Character Recognition)Pretraining