What is Learning Rate? Definition | AI Understanding

Definizione

Un iperparametro di training che controlla la quantità di parametri che cambiano in ogni fase di aggiornamento.

Termini correlati

Un vettore che mostra quanto ciascun parametro dovrebbe cambiare per ridurre la perdita.

Un valore di configurazione impostato prima dell'addestramento, ad esempio velocità di apprendimento, dimensione batch o profondità.

Generalizzazione

Quanto bene un modello si comporta su dati nuovi e invisibili al di fuori del set di training.

Regolazione fine efficiente dei parametri (PEFT)

Metodi che adattano i modelli addestrando un piccolo sottoinsieme di parametri aggiunti.

Ricerca del raggio

Un algoritmo di decodifica che mantiene le prime sequenze candidate in ogni passaggio per trovare output con maggiore probabilità.

Funzione di perdita

Un obiettivo matematico che quantifica l'errore di previsione durante l'addestramento.

Scopri di più nelle nostre guide gratuite

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

Vedi anche

Large Language Model (LLM)LoRA (Low-Rank Adaptation)Latency Label Smoothing Machine Learning (ML)Knowledge Graph Memory (Agent Memory)Knowledge Distillation

Sfoglia il glossario completo dell'intelligenza artificiale Esplora tutte le guide gratuite sull'intelligenza artificiale