Вернуться ко всем викторинамВикторина, связанная с руководствомЖесткий Уровень6 Вопросы

Параллельная викторина с полностью сегментированными данными

Проверьте свое понимание того, как Fully Sharded Data Parallel разделяет модели и управляет памятью во время распределенного обучения.

Вопрос 1 из 6Правильно: 0

Что FSDP распределяет между графическими процессорами, чего НЕ делает стандартный параллелизм данных?