返回所有测验引导式测验中等 级别6 问题

LLM 推理路由和负载平衡测验

检查您对如何在 LLM 服务后端引导和平衡请求的掌握情况。

问题 1 6正确: 0

为什么普通循环法对于 LLM 推理来说通常是一个糟糕的负载平衡策略?