แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
Tail Latency in Model Serving Quiz
Interpret p95 and p99 latency and evaluate batching, queueing, timeouts and hedging without creating additional load or duplicate side effects.
คำถาม 1 ของ 8
แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
Interpret p95 and p99 latency and evaluate batching, queueing, timeouts and hedging without creating additional load or duplicate side effects.