Tillbaka till alla frågesporterGuidelänkat frågesportHårt Nivå6 Frågor

Kontinuerlig Batching Quiz

Testa din förståelse för kontinuerlig batchning i stora språkmodeller.

Relaterade ledstråk

Fråga 1 av 6Rätt: 0

Vad är den största svagheten med statisk (fast) batchning för LLM-servering?