What is Learning Rate? Definition | AI Understanding

Definice

Tréninkový hyperparametr, který řídí, jak moc se parametry mění v každém kroku aktualizace.

Související pojmy

Vektor ukazující, jak moc by se měl každý parametr změnit, aby se snížila ztráta.

Hodnota konfigurace nastavená před školením, jako je rychlost učení, velikost dávky nebo hloubka.

Jak dobře si model vede na nových, neviditelných datech mimo trénovací sadu.

Parametrově efektivní jemné doladění (PEFT)

Metody, které přizpůsobují modely trénováním malé podmnožiny přidaných parametrů.

Dekódovací algoritmus, který v každém kroku uchovává několik nejlepších kandidátských sekvencí, aby našel výstupy s vyšší pravděpodobností.

Ztrátová funkce

Matematický cíl, který kvantifikuje chybu predikce během tréninku.

Více se dozvíte v našich bezplatných průvodcích

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

Viz také

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation

Projděte si celý glosář AI Prozkoumejte všechny bezplatné průvodce AI