Rehber bağlantılı sınav · Orta Seviye

TensorRT ve Çıkarım Motorları Testi

Dağıtım uyumluluğu ve doğruluğunun neden gerçek doğrulama gerektirdiği de dahil olmak üzere TensorRT motoru optimizasyonunu, hassas seçimleri ve şekil profillerini uygulayın.

İlgili kılavuz yollarıTensorrt ve Çıkarım Motorları
Soru 1 arasında 8

What is the goal of building an inference engine with TensorRT?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. What is the goal of building an inference engine with TensorRT?
    • Guarantee the fastest possible execution on every system
    • Optimize execution of a supported trained model for the configured target
    • Choose training labels without a dataset
    • Replace every GPU with a CPU
  2. Katman füzyonu çıkarımı nasıl hızlandırır?
    • Bellek trafiğini azaltmak için birden fazla işlemi tek bir GPU çekirdeğinde birleştirerek
    • İhtiyaç duyulmayan katmanları silerek
    • Her katmanı ayrı bir GPU'da çalıştırarak
    • Modeli CPU'da çalışacak şekilde dönüştürerek
  3. In a representative-data INT8 calibration workflow, why examine the model’s value distributions?
    • To guarantee no accuracy change under all future inputs
    • To retrain the model from zero automatically
    • To select quantization scales suited to the observed numerical ranges
    • To remove every compatibility requirement
  4. Derlenmiş bir TensorRT motoru neden genellikle tek bir GPU mimarisine özgüdür?
    • Çünkü o GPU'nun seri numarasına göre şifrelenmiştir
    • Çünkü NVIDIA bunu cihaz başına lisanslıyor
    • Çünkü eğitim verilerini motorun içinde saklıyor
    • Çünkü çekirdek otomatik ayarı, söz konusu GPU'nun tam çekirdek ve bellek düzeni için en hızlı çekirdekleri oluşturur
  5. TensorRT-LLM'nin hangi özelliği özellikle büyük dil modellerinin verimli bir şekilde sunulmasına yardımcı olur?
    • Uçuş sırasında (sürekli) toplu işlem ve sayfalanmış KV önbelleği
    • Otomatik görüntü büyütme
    • Yerleşik web barındırma
    • Ses gürültüsü engelleme
  6. Why evaluate task accuracy after choosing lower-precision TensorRT execution?
    • Lower precision always preserves every output bit
    • Only the model filename affects predictions
    • Reduced numerical precision can change model outputs or quality
    • Accuracy evaluation is needed only during tokenization
  7. A TensorRT dynamic-shape engine receives input outside its configured profile range. What should deployment validation check?
    • Whether the engine can accept every shape without a profile
    • Only whether the model name is short
    • Whether training can restart from a screenshot
    • Whether the profile supports that requested shape
  8. A TensorRT engine is moved to a different runtime and GPU configuration. What must the team establish?
    • That any serialized engine runs unchanged everywhere
    • That the selected compatibility settings support the new environment
    • That the engine contains all its original training data
    • That every GPU shares one serial number