Tilbake til alle quizerGuide-lenket quizHardt Nivå6 Spørsmål

Disaggregert forhåndsutfyllings- og dekodeserveringsquiz

Test din forståelse av hvorfor og hvordan LLM-servering deler forhåndsutfyllings- og dekodefasene.

Spørsmål 1 av 6Riktig: 0

Hva er hovedårsaken til maskinvare for å separere forhåndsfyll og dekode på forskjellige GPU-pooler?