গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর

NVLink এবং GPU ইন্টারকানেক্ট কুইজ

GPU স্কেল-আপ লিঙ্ক, NVSwitch কাপড়, যৌথ যোগাযোগ এবং র্যাক লিঙ্ক এবং ক্লাস্টার নেটওয়ার্কিংয়ের মধ্যে পার্থক্য পর্যালোচনা করে।

সম্পর্কিত গাইড পাথএনভিলিংক এবং জিপিইউ ইন্টারকানেক্ট
প্রশ্ন 1 এর 8

বড় AI মডেলের জন্য NVLink-এর মতো উচ্চ-গতির আন্তঃসংযোগ কেন প্রয়োজন?

প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

  1. বড় AI মডেলের জন্য NVLink-এর মতো উচ্চ-গতির আন্তঃসংযোগ কেন প্রয়োজন?
    • কারণ সবথেকে বড় মডেলগুলিকে অনেক GPU তে বিভক্ত করা হয়েছে যেগুলিকে ক্রমাগত ডেটা বিনিময় করতে হবে
    • কারণ একটি জিপিইউ সর্বদা যথেষ্ট তবে এটি একাকী
    • কারণ GPU গুলিকে প্রিন্টারের সাথে সংযোগ করতে হবে
    • কারণ মডেলগুলি আন্তঃসংযোগে সংরক্ষণ করা হয়
  2. GPU-টু-GPU যোগাযোগের জন্য NVLink স্ট্যান্ডার্ড PCIe বাসের উপর কী সুবিধা দেয়?
    • এটা ধীর কিন্তু সস্তা
    • অনেক বেশি ব্যান্ডউইথ এবং কম লেটেন্সি
    • এটি শুধুমাত্র একটি GPU এবং একটি CPU এর মধ্যে কাজ করে
    • এটি যে কোনও স্মৃতির প্রয়োজনীয়তা দূর করে
  3. একটি মাল্টি-জিপিইউ সার্ভারে একটি এনভিসুইচের ভূমিকা কী?
    • এটি ফ্যান সহ GPU গুলিকে শীতল করে
    • এটি অপারেটিং সিস্টেম সংরক্ষণ করে
    • এটি একটি উচ্চ-গতির ক্রসবার হিসাবে কাজ করে যাতে প্রতিটি GPU সম্পূর্ণ ব্যান্ডউইথের সাথে একে অপরের কাছে পৌঁছাতে পারে
    • এটি প্রাচীর আউটলেট থেকে শক্তি রূপান্তর করে
  4. কোন সমষ্টিগত অপারেশন, বিতরণ করা প্রশিক্ষণে সাধারণ, দ্রুত আন্তঃসংযোগ থেকে জোরালোভাবে উপকৃত হয়?
    • একটি হার্ড ড্রাইভ ডিফ্র্যাগমেন্ট করা
    • একটি একক পিক্সেল রেন্ডারিং
    • সোর্স কোড কম্পাইল করা হচ্ছে
    • অল-রিডুস, যা GPU জুড়ে গ্রেডিয়েন্টের যোগফল
  5. একটি একক সার্ভারের বাইরে, কোন প্রযুক্তি সাধারণত হাজার হাজার GPU নোডকে এক ক্লাস্টারে সংযুক্ত করে?
    • InfiniBand এবং RDMA-ওভার-ইথারনেট
    • ইউএসবি কেবল এবং ওয়াই-ফাই
    • ব্লুটুথ এবং HDMI
    • ডায়াল আপ মডেম
  6. NVIDIA এর NVL72 এর মতো একটি র্যাক-স্কেল সিস্টেম কী অর্জন করে?
    • এটি একটি ছোট বাক্সে একটি একক GPU
    • এটি একটি ইউনিফাইড NVLink ডোমেনে কয়েক ডজন GPU-কে সংযুক্ত করে
    • এটি হার্ডওয়্যারের সাথে সমস্ত সফ্টওয়্যার প্রতিস্থাপন করে
    • এটি এক ধরনের শীতল তরল
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes