學習
新聞
工具
Jobs
術語表
認證
測驗
使命
支援
English
Search
⌘K
提交工具
捐款
English
Search
⌘K
學習
AI Guides & Foundations
新聞
Latest AI Developments
工具
Top AI Directory
Jobs
AI Hiring Board
術語表
AI Terms Dictionary
認證
Get Your AI Certificate
測驗
Interactive AI Assessments
使命
Why We Exist
支援
Help and Contact
提交工具
捐款
English
← 回傳所有測驗
引導式測驗 • 硬 等級 • 6 問題
ZeRO 與分片優化器測驗
測試您對 ZeRO 和分片優化器如何在大規模訓練中削減冗餘記憶體的理解。
相關引導路徑
零優化器和分片優化器
問題 1 的 6
正確: 0
與普通資料並行相比,ZeRO 消除了哪些冗餘?
需要提示嗎?
每個 GPU 上的訓練資料的重複副本
在每個 GPU 上複製優化器狀態、梯度和參數的完整副本
節點之間的冗餘網路線
對同一批次重複前向傳播