Volver a todos los cuestionariosCuestionario vinculado a una guíaduro Nivel6 Preguntas

Prueba de pilas de entrenamiento de DeepSpeed y Megatron

Pon a prueba tu comprensión de las técnicas de paralelismo y optimizaciones de memoria detrás del entrenamiento de modelos a gran escala.

Pregunta 1 de 6Correcto: 0

¿Cuál es el propósito principal del optimizador ZeRO de DeepSpeed?