Вернуться ко всем викторинамВикторина, связанная с руководствомСредний Уровень6 Вопросы

Викторина на внимание с несколькими запросами

Проверьте, как вы понимаете, как функция Multi-Query Attention уменьшает объем кэша KV для ускорения генерации.

Связанные направляющие пути

Вопрос 1 из 6Правильно: 0

Что объединяет многозапросное внимание между всеми головами внимания?