Tilbake til alle quizerGuide-lenket quizMiddels Nivå6 Spørsmål

LLM Inferensruting og lastbalansering Quiz

Sjekk hvordan forespørsler styres og balanseres på tvers av LLM-servere.

Spørsmål 1 av 6Riktig: 0

Hvorfor er vanlig round-robin ofte en dårlig lastbalanserende strategi for LLM-slutning?