← Tilbake til alle quizerGuide-lenket quiz • Middels Nivå • 6 Spørsmål

LLM Inferensruting og lastbalansering Quiz

Sjekk hvordan forespørsler styres og balanseres på tvers av LLM-servere.

Relaterte ledestier

Spørsmål 1 av 6Riktig: 0

Hvorfor er vanlig round-robin ofte en dårlig lastbalanserende strategi for LLM-slutning?