Термин от речника на AI

Какво е Градиентно спускане?

Определение

Метод за оптимизация, който актуализира параметрите в посока, която намалява грешката.

Разгледайте пълния AI речникРазгледайте всички безплатни ръководства за AI

Свързани термини

DPO (директна оптимизация на предпочитанията)Метод на обучение, който прецизира моделите директно върху двойки предпочитания, без да е необходим отделен модел на възнаграждение.ГрадиентВектор, показващ колко трябва да се промени всеки параметър, за да се намалят загубите.Обратно разпространениеОсновният алгоритъм за обучение, който актуализира теглата на модела чрез разпространение на грешките при прогнозиране назад през мрежата.ПристрастиеПоследователен модел на грешка или несправедливост в данните или поведението на модела.Изглаждане на етикетиМетод за регулиране, който омекотява твърдите етикети, за да подобри обобщението.Скорост на обучениеХиперпараметър за обучение, контролиращ колко параметри се променят при всяка стъпка на актуализиране.

Научете повече в нашите безплатни ръководства

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

Вижте също

Ground TruthGenerative AIGuardrailsGeneralizationHallucinationGAN (Generative Adversarial Network)Human-in-the-LoopFunction Calling