What is Learning Rate? Definition | AI Understanding

Definiție

Un hiperparametru de antrenament care controlează cât de mult parametrii modifică fiecare pas de actualizare.

Termeni înrudiți

Un vector care arată cât de mult ar trebui să se schimbe fiecare parametru pentru a reduce pierderea.

O valoare de configurare setată înainte de antrenament, cum ar fi rata de învățare, dimensiunea lotului sau adâncimea.

Cât de bine funcționează un model pe date noi, nevăzute în afara setului de antrenament.

Reglare fină eficientă în funcție de parametri (PEFT)

Metode care adaptează modelele prin antrenarea unui mic subset de parametri adăugați.

Căutare fascicul

Un algoritm de decodare care păstrează primele câteva secvențe candidate la fiecare pas pentru a găsi rezultate cu probabilitate mai mare.

Funcția de pierdere

Un obiectiv matematic care cuantifică eroarea de predicție în timpul antrenamentului.

Aflați mai multe în ghidurile noastre gratuite

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

Vezi și

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation

Răsfoiți întregul glosar AI Explorați toate ghidurile AI gratuite