Zurück zu allen QuizzenMit dem Guide verknüpftes QuizSchwer Ebene6 Fragen

Vollständig geteiltes Daten-Parallel-Quiz

Testen Sie Ihr Verständnis dafür, wie Fully Sharded Data Parallel Modelle aufteilt und den Speicher während des verteilten Trainings verwaltet.

Frage 1 von 6Richtig: 0

Was bewirkt FSDP beim Sharding über GPUs hinweg, was bei der Standarddatenparallelität NICHT der Fall ist?