Înapoi la toate chestionareleTest legat de ghidGreu Nivel6 Întrebări

Quiz dezagregat pentru completarea preliminară și decodare

Testați-vă înțelegerea de ce și cum deservirea LLM împarte fazele de precompletare și decodare.

Întrebare 1 de 6

What is the core hardware reason for separating prefill and decode onto different GPU pools?