Cuestionario vinculado a una guía · duro Nivel

Prueba de pilas de entrenamiento de DeepSpeed y Megatron

Pon a prueba tu comprensión de las técnicas de paralelismo y optimizaciones de memoria detrás del entrenamiento de modelos a gran escala.