What is Latency? Definition | AI Understanding

Definisi

Waktu antara mengirim permintaan dan menerima keluaran model.

Istilah terkait

Mekanisme Perhatian

Komponen model yang secara dinamis berfokus pada bagian masukan yang relevan saat menghasilkan keluaran.

Sebuah sistem yang dapat mengambil keputusan dan bertindak dengan kendali manusia secara langsung atau terbatas secara real time.

Arsitektur model multimodal yang mempelajari representasi bersama antara teks dan gambar.

Penyimpangan Data

Pergeseran data masukan dunia nyata dari waktu ke waktu yang dapat menurunkan performa model.

Perhitungan Waktu Inferensi

Jumlah daya pemrosesan yang dikonsumsi saat menghasilkan setiap respons.

Pemutusan Pengetahuan

Titik waktu terakhir yang tercermin dalam data pelatihan model.

See also

Label Smoothing Large Language Model (LLM)Knowledge Graph Learning Rate Knowledge Distillation LoRA (Low-Rank Adaptation)Loss Function Jailbreak

Jelajahi Glosarium AI selengkapnya Jelajahi semua panduan AI gratis