Вернуться ко всем викторинамВикторина, связанная с руководствомСредний Уровень6 Вопросы

LLM-викторина по маршрутизации и балансировке нагрузки

Проверьте свое понимание того, как запросы управляются и балансируются между обслуживающими серверами LLM.

Вопрос 1 из 6Правильно: 0

Почему простой циклический алгоритм часто является плохой стратегией балансировки нагрузки для вывода LLM?