What is Latency? Definition | AI Understanding

Definisi

Masa antara menghantar permintaan dan menerima output model.

Istilah berkaitan

Mekanisme Perhatian

Komponen model yang memfokus secara dinamik pada bahagian input yang berkaitan apabila menghasilkan output.

Sistem Autonomi

Sistem yang boleh membuat keputusan dan bertindak dengan kawalan manusia yang terhad atau tiada langsung dalam masa nyata.

Seni bina model multimodal yang mempelajari perwakilan yang dikongsi antara teks dan imej.

Peralihan dalam data input dunia sebenar dari semasa ke semasa yang boleh merendahkan prestasi model.

Pengiraan Masa Inferens

Jumlah kuasa pemprosesan yang digunakan semasa menghasilkan setiap tindak balas.

Potongan Pengetahuan

Titik masa terkini ditunjukkan dalam data latihan model.

See also

Label Smoothing Large Language Model (LLM)Knowledge Graph Learning Rate Knowledge Distillation LoRA (Low-Rank Adaptation)Loss Function Jailbreak

Semak imbas Glosari AI penuh Terokai semua panduan AI percuma