Bài kiểm tra có liên kết hướng dẫn · Trung bình Cấp độ

Autoscaling Model Inference on Kubernetes Quiz

Configure model-serving autoscaling signals and account for GPU scheduling, model startup delays, queues and scale-to-zero tradeoffs.

Đường dẫn hướng dẫn liên quanAutoscaling Model Inference Kubernetes
Câu hỏi 1 của 8

Which signal may represent inference pressure better than CPU alone?