What is Gradient Descent? Definition | AI Understanding

Meghatározás

Optimalizálási módszer, amely a hibákat csökkentő irányba frissíti a paramétereket.

Kapcsolódó kifejezések

DPO (Direct Preference Optimization)

Egy olyan képzési módszer, amely közvetlenül a preferenciapárokon finomítja a modelleket anélkül, hogy külön jutalommodellre lenne szükség.

Egy vektor, amely megmutatja, hogy az egyes paramétereknek mennyit kell változniuk a veszteség csökkentése érdekében.

Visszaszaporítás

Az alapvető betanítási algoritmus, amely frissíti a modell súlyait az előrejelzési hibáknak a hálózaton keresztül történő visszafelé terjesztésével.

Konzisztens hiba vagy tisztességtelen minta az adatok vagy a modell viselkedésében.

Címkesimítás

Szabályosítási módszer, amely lágyítja a kemény címkéket az általánosítás javítása érdekében.

Tanulási arány

Tanítási hiperparaméter, amely azt szabályozza, hogy mennyi paraméter változik az egyes frissítési lépésekben.

Tudjon meg többet ingyenes útmutatóinkból

Gradient Accumulation Stochastic Gradient Descent with Momentum Nesterov Accelerated Gradient Vanishing and Exploding Gradients

See also

Ground Truth Generative AI Guardrails Generalization Hallucination GAN (Generative Adversarial Network)Human-in-the-Loop Function Calling

Böngésszen a teljes AI szószedetben Fedezze fel az összes ingyenes AI-útmutatót