Torna a tutti i quizQuiz collegato alla guidaDifficile Livello6 Domande

Quiz sugli stack di formazione per DeepSpeed e Megatron

Metti alla prova la tua comprensione delle tecniche di parallelismo e delle ottimizzazioni della memoria dietro l'addestramento di modelli su larga scala.

Domanda 1 di 6Corretto: 0

Qual è lo scopo principale dell'ottimizzatore ZeRO di DeepSpeed?