← Torna a tutti i quizQuiz collegato alla guida • Difficile Livello • 6 Domande

PagedAttention e quiz vLLM

Metti alla prova la tua conoscenza di PagedAttention e del motore di inferenza vLLM.

Percorsi guida correlatiPagedattenzione e Vllm

Domanda 1 di 6

Cosa memorizza la "cache KV" durante la generazione del testo?