Quay lại tất cả các câu đốBài kiểm tra có liên kết hướng dẫnTrung bình Cấp độ6 Câu hỏi

Bài kiểm tra cân bằng tải và định tuyến suy luận LLM

Kiểm tra mức độ hiểu biết của bạn về cách các yêu cầu được định hướng và cân bằng trên các chương trình phụ trợ phân phát LLM.

Đường dẫn hướng dẫn liên quan

Câu hỏi 1 của 6Đúng: 0

Tại sao tính năng quay vòng đơn giản thường là chiến lược cân bằng tải kém cho suy luận LLM?