Вікторина, пов’язана з посібником · Середній Рівень

Autoscaling Model Inference on Kubernetes Quiz

Configure model-serving autoscaling signals and account for GPU scheduling, model startup delays, queues and scale-to-zero tradeoffs.

Пов'язані напрямні шляхиAutoscaling Model Inference Kubernetes
Питання 1 з 8

Which signal may represent inference pressure better than CPU alone?