学ぶ
ニュース
ツール
Jobs
用語集
認定
クイズ
使命
サポート
English
Search
⌘K
AIツール投稿
寄付
English
Search
⌘K
学ぶ
AI Guides & Foundations
ニュース
Latest AI Developments
ツール
Top AI Directory
Jobs
AI Hiring Board
用語集
AI Terms Dictionary
認定
Get Your AI Certificate
クイズ
Interactive AI Assessments
使命
Why We Exist
サポート
Help and Contact
AIツール投稿
寄付
English
← すべてのクイズに戻る
ガイド連動クイズ • ハード レベル • 6 質問
ZeRO とシャード オプティマイザーのクイズ
ZeRO とシャード オプティマイザーが大規模なトレーニングで冗長メモリをどのように削減するかについての理解をテストします。
関連するガイドパス
ゼロおよびシャードオプティマイザー
質問 1 の 6
正解: 0
普通のデータ並列処理と比較して、ZeRO はどのような冗長性を排除しますか?
ヒントが必要ですか?
各 GPU 上のトレーニング データの複製コピー
オプティマイザーの状態、勾配、パラメーターの完全なコピーをすべての GPU に複製します。
ノード間の冗長ネットワークケーブル
同じバッチ上でフォワードパスを繰り返す