Înapoi la toate chestionareleTest legat de ghidGreu Nivel6 Întrebări

Testul ZerO și Sharded Optimizers

Testați-vă înțelegerea modului în care optimizatorii ZeRO și sharded reduc memoria redundantă la antrenamentul la scară largă.

Căi de ghidare aferenteOptimizatoare zero și fragmentate
Întrebare 1 de 6

Ce redundanță elimină ZeRO în comparație cu paralelismul simplu de date?