Тест за TensorRT и машини за изводи

Отговорите и обясненията се появяват, докато отговаряте на теста.

1. What is the goal of building an inference engine with TensorRT?
   • Guarantee the fastest possible execution on every system
   • Optimize execution of a supported trained model for the configured target
   • Choose training labels without a dataset
   • Replace every GPU with a CPU
2. Как сливането на слоеве ускорява изводите?
   • Чрез обединяване на множество операции в едно GPU ядро за намаляване на трафика на паметта
   • Чрез изтриване на слоеве, които не са необходими
   • Чрез стартиране на всеки слой на отделен GPU
   • Чрез преобразуване на модела да работи на процесора
3. In a representative-data INT8 calibration workflow, why examine the model’s value distributions?
   • To guarantee no accuracy change under all future inputs
   • To retrain the model from zero automatically
   • To select quantization scales suited to the observed numerical ranges
   • To remove every compatibility requirement
4. Защо компилираният двигател TensorRT обикновено е специфичен за една GPU архитектура?
   • Тъй като е криптиран със серийния номер на този GPU
   • Тъй като NVIDIA го лицензира за всяко устройство
   • Тъй като съхранява данните за обучение вътре в двигателя
   • Тъй като автоматичната настройка на ядрото работи в най-бързите ядра за точното оформление на ядрото и паметта на GPU
5. Коя функция на TensorRT-LLM конкретно помага за ефективното обслужване на големи езикови модели?
   • По време на полет (непрекъснато) пакетиране и страници KV-кеш
   • Автоматично увеличаване на изображението
   • Вграден уеб хостинг
   • Аудио шумопотискане
6. Why evaluate task accuracy after choosing lower-precision TensorRT execution?
   • Lower precision always preserves every output bit
   • Only the model filename affects predictions
   • Reduced numerical precision can change model outputs or quality
   • Accuracy evaluation is needed only during tokenization
7. A TensorRT dynamic-shape engine receives input outside its configured profile range. What should deployment validation check?
   • Whether the engine can accept every shape without a profile
   • Only whether the model name is short
   • Whether training can restart from a screenshot
   • Whether the profile supports that requested shape
8. A TensorRT engine is moved to a different runtime and GPU configuration. What must the team establish?
   • That any serialized engine runs unchanged everywhere
   • That the selected compatibility settings support the new environment
   • That the engine contains all its original training data
   • That every GPU shares one serial number