Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ NVLink και GPU Interconnects

Αξιολογεί συνδέσμους κλιμάκωσης GPU, υφάσματα NVSwitch, συλλογική επικοινωνία και τη διάκριση μεταξύ συνδέσμων rack και δικτύωσης συμπλέγματος.

Σχετικές διαδρομές οδηγώνΔιασυνδέσεις Nvlink και GPU
Ερώτηση 1 του 8

Γιατί χρειάζονται διασυνδέσεις υψηλής ταχύτητας όπως το NVLink για μεγάλα μοντέλα τεχνητής νοημοσύνης;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Γιατί χρειάζονται διασυνδέσεις υψηλής ταχύτητας όπως το NVLink για μεγάλα μοντέλα τεχνητής νοημοσύνης;
    • Επειδή τα μεγαλύτερα μοντέλα χωρίζονται σε πολλές GPU που πρέπει να ανταλλάσσουν συνεχώς δεδομένα
    • Γιατί μια GPU είναι πάντα αρκετή αλλά είναι μοναχική
    • Επειδή οι GPU πρέπει να συνδέονται με εκτυπωτές
    • Επειδή τα μοντέλα αποθηκεύονται στην ίδια τη διασύνδεση
  2. Τι πλεονέκτημα προσφέρει το NVLink σε σχέση με τον τυπικό δίαυλο PCIe για την επικοινωνία GPU-to-GPU;
    • Είναι πιο αργό αλλά φθηνότερο
    • Πολύ μεγαλύτερο εύρος ζώνης και χαμηλότερο λανθάνον χρόνο
    • Λειτουργεί μόνο μεταξύ GPU και CPU
    • Αφαιρεί την ανάγκη για οποιαδήποτε μνήμη
  3. Ποιος είναι ο ρόλος ενός NVSwitch σε έναν διακομιστή πολλαπλών GPU;
    • Δροσίζει τις GPU με ανεμιστήρες
    • Αποθηκεύει το λειτουργικό σύστημα
    • Λειτουργεί ως crossbar υψηλής ταχύτητας, ώστε κάθε GPU να μπορεί να φτάσει σε κάθε άλλη σε πλήρες εύρος ζώνης
    • Μετατρέπει ρεύμα από την πρίζα
  4. Ποια συλλογική λειτουργία, κοινή στην κατανεμημένη εκπαίδευση, επωφελείται έντονα από τις γρήγορες διασυνδέσεις;
    • Ανασυγκρότηση σκληρού δίσκου
    • Απόδοση ενός μόνο pixel
    • Μεταγλώττιση πηγαίου κώδικα
    • All-reduce, το οποίο αθροίζει τις διαβαθμίσεις μεταξύ των GPU
  5. Πέρα από έναν μόνο διακομιστή, ποιες τεχνολογίες συνδέουν συνήθως χιλιάδες κόμβους GPU σε ένα σύμπλεγμα;
    • InfiniBand και RDMA-over-Ethernet
    • Καλώδια USB και Wi-Fi
    • Bluetooth και HDMI
    • Μόντεμ μέσω τηλεφώνου
  6. Τι επιτυγχάνει ένα σύστημα σε κλίμακα rack όπως το NVL72 της NVIDIA;
    • Είναι μια ενιαία GPU σε ένα μικρό κουτί
    • Συνδέει δεκάδες GPU σε έναν ενοποιημένο τομέα NVLink
    • Αντικαθιστά όλο το λογισμικό με υλικό
    • Είναι ένα είδος ψυκτικού υγρού
  7. Why can a fast GPU fabric improve distributed data-parallel training?
    • It removes the need to compute gradients
    • It converts training into a database lookup
    • It can reduce the time spent exchanging gradients in collectives such as all-reduce
    • It prevents GPUs from synchronizing
  8. How does an NVLink scale-up fabric differ from InfiniBand or Ethernet used across a cluster?
    • NVLink is only a file format
    • InfiniBand runs inside a GPU’s tensor core
    • Ethernet is used only for local memory access
    • NVLink connects GPUs within supported systems or rack domains; InfiniBand and Ethernet commonly connect cluster nodes