AI Ordliste Term

Hva er Latens?

Definisjon

Tiden mellom sending av en forespørsel og mottak av modellens utdata.

Relaterte vilkår

Oppmerksomhetsmekanisme
En modellkomponent som dynamisk fokuserer på relevante deler av en input når den produserer en output.
Autonomt system
Et system som kan ta beslutninger og handle med begrenset eller ingen direkte menneskelig kontroll i sanntid.
KLIPP
En multimodal modellarkitektur som lærer delte representasjoner mellom tekst og bilder.
Datadrift
Et skifte i virkelige inputdata over tid som kan forringe modellens ytelse.
Inferens-tidsberegning
Mengden prosessorkraft som forbrukes mens du produserer hver respons.
Kunnskapsavskjæring
Det siste tidspunktet gjenspeiles i en modells treningsdata.

Se også

Label SmoothingLarge Language Model (LLM)Knowledge GraphLearning RateKnowledge DistillationLoRA (Low-Rank Adaptation)Loss FunctionJailbreak
Bla gjennom hele AI-ordlistenUtforsk alle gratis AI-guider