Вернуться ко всем викторинамВикторина, связанная с руководствомЖесткий Уровень6 Вопросы

Викторина PagedAttention и vLLM

Проверьте свои знания PagedAttention и механизма вывода vLLM.

Связанные направляющие путиPagedattention и Vllm
Вопрос 1 из 6

Что хранит «кэш KV» во время генерации текста?