গাইড লিঙ্ক ক্যুইজ · সহজ স্তর

NVIDIA AI কুইজ

NVIDIA ইকোসিস্টেমের ভূমিকা, অনুমান অপ্টিমাইজেশান, সামঞ্জস্যতা, আউটপুট বৈধতা এবং শেষ থেকে শেষ কর্মক্ষমতা পরিমাপ কভার করে।

সম্পর্কিত গাইড পাথএনভিডিয়া এআই
প্রশ্ন 1 এর 8

একটি অনুরোধ ১০০ মিলিসেকেন্ড ইনফারেন্সে এবং ৯০০ মিলিসেকেন্ড ডেটা প্রস্তুতিতে ব্যয় করে। যদি ইনফারেন্স দ্বিগুণ দ্রুত হয়, তাহলে অনুরোধটি আনুমানিক কতক্ষণ সময় নেবে?

প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

  1. একটি অনুরোধ ১০০ মিলিসেকেন্ড ইনফারেন্সে এবং ৯০০ মিলিসেকেন্ড ডেটা প্রস্তুতিতে ব্যয় করে। যদি ইনফারেন্স দ্বিগুণ দ্রুত হয়, তাহলে অনুরোধটি আনুমানিক কতক্ষণ সময় নেবে?
    • 950 ms
    • 500 ms
    • 900 ms
    • 450 ms
  2. গাইডে বর্ণিত NVIDIA ডিপ্লয়মেন্ট ওয়ার্কফ্লোতে, TensorRT এর মতো একটি ইনফারেন্স অপ্টিমাইজার কী ভূমিকা পালন করতে পারে?
    • আউটপুট গুণমান মূল্যায়নের প্রয়োজনীয়তা প্রতিস্থাপন
    • সার্ভিং সিস্টেমের মাধ্যমে প্রকাশ করার আগে একটি প্রশিক্ষিত মডেলকে এক্সিকিউশনের জন্য অপ্টিমাইজ করা
    • কাঁচা ডেটা থেকে স্বয়ংক্রিয়ভাবে প্রতিটি মডেল প্রশিক্ষণ করা
    • রানটাইম ছাড়া সমস্ত অ্যাপ্লিকেশন ডেটা সংরক্ষণ করা
  3. একটি মডেল GPU-তে দ্রুত হলেও অ্যাপ্লিকেশন ধীর থাকে কারণ ইনপুট প্রস্তুতি প্রাধান্য পায়। টিমকে কী তদন্ত করা উচিত?
    • মডেল প্যারামিটার গণনা বাড়ানো
    • প্রোফাইলিং ছাড়া মডেল বিক্রেতা পরিবর্তন করা
    • সম্পূর্ণ ডেটা এবং প্রিপ্রসেসিং পথ, শুধুমাত্র অ্যাক্সেলারেটর থ্রুপুট নয়
    • আউটপুট যাচাই অপসারণ
  4. প্রিসিশন বা ইনফারেন্স এক্সিকিউশন পথ পরিবর্তনের পরে, মূল মডেলের সাথে কী তুলনা করা উচিত?
    • শুধুমাত্র ফাইল এক্সটেনশন
    • শুধুমাত্র GPU তাপমাত্রা
    • মডেলটির একই মার্কেটিং নাম আছে কি না
    • প্রতিনিধি মূল্যায়ন ইনপুটে কাজের আউটপুট এবং গুণমান
  5. কোন বিশদগুলো একটি ইনফারেন্স বেঞ্চমার্ককে পুনরুত্পাদনযোগ্য করতে সাহায্য করে?
    • হার্ডওয়্যার, সফটওয়্যার সংস্করণ, নির্ভুলতা, সমর্থিত অপারেশন, কাজের চাপ এবং ইনপুট শর্তাবলী
    • শুধুমাত্র বিক্রেতার নাম
    • শুধুমাত্র মডেলের প্যারামিটার সংখ্যা
    • সার্ভার চ্যাসিসের রঙ
  6. বৃহত্তর ত্বরক সম্পর্কে কোন বিবৃতি গাইডে সমর্থিত?
    • এটি নিশ্চিত করে যে প্রতিটি অ্যাপ্লিকেশন দ্রুততর চলে
    • যদি অন্য কোনো ধাপ বটলনেক হয় তবে এটি শেষ-থেকে-শেষ গতি বাড়াতে নাও পারে
    • সমস্ত ডেটা স্থানান্তর খরচ অপসারণ করে
    • আউটপুটের গুণমান অপরিবর্তিত থাকে তা নিশ্চিত করে
  7. প্রয়োগকৃত AI কাজের জন্য গাইড কোন খরচ মাত্রা মাপার পরামর্শ দেয়?
    • শুধু শীর্ষ তাত্ত্বিক গাণিতিক থ্রুপুট
    • শুধু প্রশিক্ষণ ডেটায় মডেলের সঠিকতা
    • লেটেন্সি, থ্রুপুট, শক্তি এবং নির্ধারিত অ্যাপ্লিকেশন শর্তে খরচ
    • শুধু অ্যাক্সিলারেটরের নাম
  8. গাইড কেন হার্ডওয়্যার সক্ষমতাকে সফটওয়্যার-স্ট্যাক পারফরম্যান্স থেকে আলাদা করে?
    • সফটওয়্যার কখনও অ্যাক্সিলারেটর পারফরম্যান্সকে প্রভাবিত করে না
    • হার্ডওয়্যার স্পেসিফিকেশন সরাসরি সেবা গতি নিশ্চিত করে
    • সমস্ত NVIDIA ডিভাইস প্রতিটি মডেল একইভাবে সম্পাদন করে
    • সমর্থিত অপারেশন, কের্নেল এবং সামঞ্জস্যতা নির্ধারণ করে হার্ডওয়্যার প্রকৃতপক্ষে কীভাবে ব্যবহার হয়