Cuestionario vinculado a una guía · duro Nivel

Cuestionario sobre ZeRO y optimizadores fragmentados

Pruebe su comprensión de cómo ZeRO y los optimizadores fragmentados reducen la memoria redundante en el entrenamiento a gran escala.