← Назад до всіх тестівВікторина, пов’язана з посібником • важко Рівень • 6 Питання

Вікторина PagedAttention і vLLM

Перевірте свої знання щодо PagedAttention і механізму висновку vLLM.

Пов'язані напрямні шляхиPagedattention І Vllm

Питання 1 з 6

Що зберігає «кеш KV» під час генерації тексту?