What is Learning Rate? Definition | AI Understanding

Meghatározás

Tanítási hiperparaméter, amely azt szabályozza, hogy mennyi paraméter változik az egyes frissítési lépésekben.

Kapcsolódó kifejezések

Egy vektor, amely megmutatja, hogy az egyes paramétereknek mennyit kell változniuk a veszteség csökkentése érdekében.

Hiperparaméter

A képzés előtt beállított konfigurációs érték, például tanulási sebesség, kötegméret vagy mélység.

Általánosítás

Milyen jól teljesít egy modell új, nem látott adatokon a képzési halmazon kívül.

Paraméter-hatékony finomhangolás (PEFT)

Olyan módszerek, amelyek a hozzáadott paraméterek egy kis részhalmazának betanításával adaptálják a modelleket.

Sugár keresés

Egy dekódoló algoritmus, amely minden lépésnél megtartja a felső több jelölt szekvenciát, hogy nagyobb valószínűségű kimeneteket találjon.

Veszteség funkció

Matematikai cél, amely számszerűsíti az előrejelzési hibát a képzés során.

Tudjon meg többet ingyenes útmutatóinkból

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

See also

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation

Böngésszen a teljes AI szószedetben Fedezze fel az összes ingyenes AI-útmutatót