学习
新闻
工具
Jobs
术语表
认证
测验
使命
支持
English
Search
⌘K
提交工具
捐赠
English
Search
⌘K
学习
AI Guides & Foundations
新闻
Latest AI Developments
工具
Top AI Directory
Jobs
AI Hiring Board
术语表
AI Terms Dictionary
认证
Get Your AI Certificate
测验
Interactive AI Assessments
使命
Why We Exist
支持
Help and Contact
提交工具
捐赠
English
← 返回所有测验
引导式测验 • 中等 级别 • 5 问题
数据并行性测验
测试您对数据并行如何在 GPU 之间复制模型和同步梯度的理解。
相关引导路径
数据并行性
问题 1 的 5
正确: 0
在标准数据并行性中,每个 GPU 保存什么?
需要提示吗?
模型层的不同切片
模型的完整副本,处理批次的不同部分
仅优化器状态,权重集中存储
模型的压缩版本,参数较少