AI Ordlista Term

Vad är LoRA (lågrankad anpassning)?

Definition

En parametereffektiv finjusteringsmetod som lägger till lågrankade adaptermatriser.

Relaterade termer

Parametereffektiv finjustering (PEFT)
Metoder som anpassar modeller genom att träna en liten delmängd av tillagda parametrar.
QLoRA
En finjusteringsteknik som kombinerar 4-bitars viktkvantisering med LoRA-adaptrar för att minska minnesbehovet.
Finjustering
Fortsatt utbildning om domänspecifik data för att anpassa en förtränad modell till en specifik uppgift.
Instruktionsjustering
Finjustera en modell på instruktion-svar-par för att förbättra uppgiftsföljden.
DPO (Direct Preference Optimization)
En träningsmetod som finjusterar modeller direkt på preferenspar utan att behöva en separat belöningsmodell.
Etikettutjämning
En regulariseringsmetod som mjukar upp hårda etiketter för att förbättra generaliseringen.

Läs mer i våra kostnadsfria guider

AI Workflow AutomationBarlow Twins and Redundancy ReductionDomain AdaptationKubeflow and ML Pipeline Orchestration

See also

Learning RateLoss FunctionLarge Language Model (LLM)Machine Learning (ML)LatencyMemory (Agent Memory)Mixture of Experts (MoE)Knowledge Graph
Bläddra i hela AI-ordlistanUtforska alla gratis AI-guider