Викторина, связанная с руководством · Средний Уровень

Викторина о взаимосвязи NVLink и графического процессора

Рассматриваются каналы масштабирования графического процессора, фабрики NVSwitch, коллективная связь, а также различия между соединениями стоек и кластерными сетями.

Связанные направляющие путиМежсоединения Nvlink и GPU
Вопрос 1 из 8

Почему высокоскоростные межсоединения, такие как NVLink, необходимы для крупных моделей искусственного интеллекта?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Почему высокоскоростные межсоединения, такие как NVLink, необходимы для крупных моделей искусственного интеллекта?
    • Потому что самые большие модели разделены на множество графических процессоров, которые должны постоянно обмениваться данными.
    • Потому что одного графического процессора всегда достаточно, но он одинок
    • Потому что графические процессоры необходимо подключать к принтерам
    • Поскольку модели хранятся в самом межсоединении
  2. Какое преимущество предлагает NVLink по сравнению со стандартной шиной PCIe для связи между графическими процессорами?
    • Это медленнее, но дешевле
    • Гораздо более высокая пропускная способность и меньшая задержка
    • Работает только между графическим процессором и процессором.
    • Это устраняет необходимость в какой-либо памяти
  3. Какова роль NVSwitch на сервере с несколькими графическими процессорами?
    • Он охлаждает графические процессоры с помощью вентиляторов.
    • Он хранит операционную систему
    • Он действует как высокоскоростная перекладина, поэтому каждый графический процессор может связываться друг с другом с полной пропускной способностью.
    • Он преобразует электроэнергию из розетки.
  4. Какая коллективная операция, распространенная в распределенном обучении, сильно выигрывает от быстрых межсоединений?
    • Дефрагментация жесткого диска
    • Рендеринг одного пикселя
    • Компиляция исходного кода
    • All-reduce, который суммирует градиенты между графическими процессорами.
  5. Какие технологии, помимо одного сервера, обычно объединяют тысячи узлов графического процессора в один кластер?
    • InfiniBand и RDMA через Ethernet
    • USB-кабели и Wi-Fi
    • Bluetooth и HDMI
    • Коммутируемые модемы
  6. Чего достигает такая стоечная система, как NVIDIA NVL72?
    • Это один графический процессор в маленькой коробке.
    • Он объединяет десятки графических процессоров в один единый домен NVLink.
    • Он заменяет все программное обеспечение аппаратным обеспечением.
    • Это тип охлаждающей жидкости
  7. Почему быстрая структура графического процессора может улучшить распределенное параллельное обучение данным?
    • Это устраняет необходимость вычисления градиентов.
    • Он преобразует обучение в поиск в базе данных.
    • Это может сократить время, затрачиваемое на обмен градиентами в коллективах, например, all-reduce.
    • Это предотвращает синхронизацию графических процессоров
  8. Чем масштабируемая структура NVLink отличается от InfiniBand или Ethernet, используемых в кластере?
    • NVLink — это всего лишь формат файла.
    • InfiniBand работает внутри тензорного ядра графического процессора
    • Ethernet используется только для доступа к локальной памяти.
    • NVLink соединяет графические процессоры в поддерживаемых системах или стойках; InfiniBand и Ethernet обычно соединяют узлы кластера