Istilah Glosari AI

Apa itu Latensi?

Definisi

Masa antara menghantar permintaan dan menerima output model.

Istilah berkaitan

Mekanisme Perhatian
Komponen model yang memfokus secara dinamik pada bahagian input yang berkaitan apabila menghasilkan output.
Sistem Autonomi
Sistem yang boleh membuat keputusan dan bertindak dengan kawalan manusia yang terhad atau tiada langsung dalam masa nyata.
KLIP
Seni bina model multimodal yang mempelajari perwakilan yang dikongsi antara teks dan imej.
Hanyutan Data
Peralihan dalam data input dunia sebenar dari semasa ke semasa yang boleh merendahkan prestasi model.
Pengiraan Masa Inferens
Jumlah kuasa pemprosesan yang digunakan semasa menghasilkan setiap tindak balas.
Potongan Pengetahuan
Titik masa terkini ditunjukkan dalam data latihan model.

See also

Label SmoothingLarge Language Model (LLM)Knowledge GraphLearning RateKnowledge DistillationLoRA (Low-Rank Adaptation)Loss FunctionJailbreak
Semak imbas Glosari AI penuhTerokai semua panduan AI percuma