返回所有测验引导式测验中等 等级6 问题

LLM 推理路由和负载平衡测验

检查您对如何在 LLM 服务后端引导和平衡请求的掌握情况。

问题 1 6

为什么普通循环法对于 LLM 推理来说通常是一个糟糕的负载平衡策略?