Termine del glossario AI

Cos'è Latenza?

Definizione

Il tempo che intercorre tra l'invio di una richiesta e la ricezione dell'output del modello.

Termini correlati

Meccanismo di attenzione
Un componente del modello che si concentra dinamicamente sulle parti rilevanti di un input quando si produce un output.
Sistema autonomo
Un sistema in grado di prendere decisioni e agire con un controllo umano diretto limitato o assente in tempo reale.
CLIP
Un'architettura del modello multimodale che apprende rappresentazioni condivise tra testo e immagini.
Deriva dei dati
Uno spostamento nel tempo dei dati di input del mondo reale che può ridurre le prestazioni del modello.
Calcolo del tempo di inferenza
La quantità di potenza di elaborazione consumata durante la produzione di ciascuna risposta.
Taglio della conoscenza
L'ultimo momento riflesso nei dati di training di un modello.

Vedi anche

Label SmoothingLarge Language Model (LLM)Knowledge GraphLearning RateKnowledge DistillationLoRA (Low-Rank Adaptation)Loss FunctionJailbreak
Sfoglia il glossario completo dell'intelligenza artificialeEsplora tutte le guide gratuite sull'intelligenza artificiale