Επιστροφή σε όλα τα κουίζΚουίζ που συνδέεται με οδηγόΣκληρό Επίπεδο6 Ερωτήσεις

Κουίζ ZeRO και Sharded Optimizers

Δοκιμάστε την κατανόησή σας σχετικά με τον τρόπο με τον οποίο το ZeRO και οι βελτιστοποιητές διαμοιρασμού μειώνουν την περιττή μνήμη σε προπόνηση μεγάλης κλίμακας.

Σχετικές διαδρομές οδηγώνZero And Sharded Optimizers
Ερώτηση 1 του 6

Τι πλεονασμό εξαλείφει το ZeRO σε σύγκριση με τον απλό παραλληλισμό δεδομένων;