Назад до всіх тестівВікторина, пов’язана з посібникомважко Рівень6 Питання

Тест із дезагрегованим попереднім заповненням і декодуванням

Перевірте своє розуміння того, чому та як обслуговування LLM розділяє фази попереднього заповнення та декодування.

Питання 1 з 6Правильно: 0

Яка основна апаратна причина для розділення попереднього заповнення та декодування на різні пули GPU?