AI Ordlista Term

Vad är Latens?

Definition

Tiden mellan att skicka en förfrågan och ta emot modellens utdata.

Relaterade termer

Uppmärksamhetsmekanism
En modellkomponent som dynamiskt fokuserar på relevanta delar av en ingång när en utdata produceras.
Autonoma System
Ett system som kan fatta beslut och agera med begränsad eller ingen direkt mänsklig kontroll i realtid.
KLIPP
En multimodal modellarkitektur som lär sig delade representationer mellan text och bilder.
Datadrift
En förändring av verkliga indata över tid som kan försämra modellens prestanda.
Inferens-Time Compute
Mängden processorkraft som förbrukas när varje svar produceras.
Knowledge Cutoff
Den senaste tidpunkten återspeglas i en modells träningsdata.

See also

Label SmoothingLarge Language Model (LLM)Knowledge GraphLearning RateKnowledge DistillationLoRA (Low-Rank Adaptation)Loss FunctionJailbreak
Bläddra i hela AI-ordlistanUtforska alla gratis AI-guider