Назад към всички викториниТест, свързан с ръководствотрудно Ниво6 Въпроси

Паралелен тест с напълно разделени данни

Тествайте разбирането си за това как Fully Sharded Data Parallel разделя моделите и управлява паметта по време на разпределено обучение.

Свързани ръководни пътекиПаралел на напълно разделени данни
Въпрос 1 на 6

Какво FSDP разделя между GPU, което стандартният паралелизъм на данни НЕ прави?