Επιστροφή σε όλα τα κουίζΚουίζ που συνδέεται με οδηγόΣκληρό Επίπεδο6 Ερωτήσεις

Κουίζ ZeRO και Sharded Optimizers

Δοκιμάστε την κατανόησή σας σχετικά με τον τρόπο με τον οποίο το ZeRO και οι βελτιστοποιητές διαμοιρασμού μειώνουν την περιττή μνήμη σε προπόνηση μεγάλης κλίμακας.

Σχετικές διαδρομές οδηγών

Ερώτηση 1 του 6Σωστό: 0

Τι πλεονασμό εξαλείφει το ZeRO σε σύγκριση με τον απλό παραλληλισμό δεδομένων;