Gids-gekoppelde quiz · Middelmatig Niveau
TensorRT en Inference Engines-quiz
Pas TensorRT-engineoptimalisatie, precisiekeuzes en vormprofielen toe, inclusief waarom implementatiecompatibiliteit en nauwkeurigheid daadwerkelijke validatie vereisen.
Vraag 1 van 8
What is the goal of building an inference engine with TensorRT?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- What is the goal of building an inference engine with TensorRT?
- Guarantee the fastest possible execution on every system
- Optimize execution of a supported trained model for the configured target
- Choose training labels without a dataset
- Replace every GPU with a CPU
- Hoe versnelt laagfusie de gevolgtrekking?
- Door meerdere bewerkingen samen te voegen in één GPU-kernel om het geheugenverkeer te verminderen
- Door lagen te verwijderen die niet nodig zijn
- Door elke laag op een afzonderlijke GPU te laten draaien
- Door het model te converteren zodat het op de CPU kan draaien
- In a representative-data INT8 calibration workflow, why examine the model’s value distributions?
- To guarantee no accuracy change under all future inputs
- To retrain the model from zero automatically
- To select quantization scales suited to the observed numerical ranges
- To remove every compatibility requirement
- Waarom is een gecompileerde TensorRT-engine doorgaans specifiek voor één GPU-architectuur?
- Omdat het is gecodeerd met het serienummer van die GPU
- Omdat NVIDIA het per apparaat licentieert
- Omdat het de trainingsgegevens in de motor opslaat
- Omdat kernel-autotuning de snelste kernels inschakelt voor de exacte kern- en geheugenindeling van die GPU
- Welke functie van TensorRT-LLM helpt specifiek grote taalmodellen efficiënt te bedienen?
- In-flight (continue) batching en gepagineerde KV-cache
- Automatische beeldvergroting
- Ingebouwde webhosting
- Audio-ruisonderdrukking
- Why evaluate task accuracy after choosing lower-precision TensorRT execution?
- Lower precision always preserves every output bit
- Only the model filename affects predictions
- Reduced numerical precision can change model outputs or quality
- Accuracy evaluation is needed only during tokenization
- A TensorRT dynamic-shape engine receives input outside its configured profile range. What should deployment validation check?
- Whether the engine can accept every shape without a profile
- Only whether the model name is short
- Whether training can restart from a screenshot
- Whether the profile supports that requested shape
- A TensorRT engine is moved to a different runtime and GPU configuration. What must the team establish?
- That any serialized engine runs unchanged everywhere
- That the selected compatibility settings support the new environment
- That the engine contains all its original training data
- That every GPU shares one serial number