টেনসরআরটি এবং ইনফারেন্স ইঞ্জিন কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. What is the goal of building an inference engine with TensorRT?
   • Guarantee the fastest possible execution on every system
   • Optimize execution of a supported trained model for the configured target
   • Choose training labels without a dataset
   • Replace every GPU with a CPU
2. কিভাবে স্তর ফিউশন অনুমান গতি বাড়ায়?
   • মেমরি ট্র্যাফিক কমাতে একটি GPU কার্নেলে একাধিক অপারেশন মার্জ করে
   • প্রয়োজন নেই এমন স্তরগুলি মুছে ফেলার মাধ্যমে
   • একটি পৃথক GPU-তে প্রতিটি স্তর চালানোর মাধ্যমে
   • সিপিইউতে চালানোর জন্য মডেলটিকে রূপান্তর করে
3. In a representative-data INT8 calibration workflow, why examine the model’s value distributions?
   • To guarantee no accuracy change under all future inputs
   • To retrain the model from zero automatically
   • To select quantization scales suited to the observed numerical ranges
   • To remove every compatibility requirement
4. কেন একটি সংকলিত TensorRT ইঞ্জিন সাধারণত একটি GPU আর্কিটেকচারের জন্য নির্দিষ্ট?
   • কারণ এটি সেই GPU-এর সিরিয়াল নম্বরে এনক্রিপ্ট করা হয়েছে
   • কারণ NVIDIA এটি প্রতি ডিভাইসে লাইসেন্স করে
   • কারণ এটি ইঞ্জিনের ভিতরে প্রশিক্ষণের তথ্য সংরক্ষণ করে
   • কারণ কার্নেল অটো-টিউনিং সেই GPU এর সঠিক কোর এবং মেমরি লেআউটের জন্য দ্রুততম কার্নেলে বেক করে
5. TensorRT-LLM-এর কোন বৈশিষ্ট্যটি বিশেষভাবে বড় ভাষার মডেলগুলিকে দক্ষতার সাথে পরিবেশন করতে সাহায্য করে?
   • ইন-ফ্লাইট (একটানা) ব্যাচিং এবং পেজড কেভি-ক্যাশে
   • স্বয়ংক্রিয় ইমেজ বৃদ্ধি
   • অন্তর্নির্মিত ওয়েব হোস্টিং
   • অডিও নয়েজ বাতিলকরণ
6. Why evaluate task accuracy after choosing lower-precision TensorRT execution?
   • Lower precision always preserves every output bit
   • Only the model filename affects predictions
   • Reduced numerical precision can change model outputs or quality
   • Accuracy evaluation is needed only during tokenization
7. A TensorRT dynamic-shape engine receives input outside its configured profile range. What should deployment validation check?
   • Whether the engine can accept every shape without a profile
   • Only whether the model name is short
   • Whether training can restart from a screenshot
   • Whether the profile supports that requested shape
8. A TensorRT engine is moved to a different runtime and GPU configuration. What must the team establish?
   • That any serialized engine runs unchanged everywhere
   • That the selected compatibility settings support the new environment
   • That the engine contains all its original training data
   • That every GPU shares one serial number