概述
DMTet（深度行进四面体）是一种混合 3D 形状表示，它将可变形四面体网格与带符号距离场相结合，因此神经网络可以直接生成详细的、无懈可击的网格。这很重要，因为它使高分辨率 3D 网格生成可微分且可进行端到端训练。
DMTet 混合 3D 表示属于计算机视觉工作流程，可解释或生成视觉媒体以进行分析、操作和创造力。
深入探讨
NVIDIA 于 2021 年推出的 DMTet 融合了隐式和显式 3D 表示。它从可变形的四面体网格开始；在每个网格顶点，网络预测一个带符号的距离值（表面外部为正，内部为负）和位置偏移。然后，可微分行进四面体层会在距离场的符号翻转越过四面体边缘的地方提取显式三角形网格。由于 SDF 值和顶点位置都是学习的，并且表面提取是可微分的，因此您可以针对 2D 图像丢失或 3D 监督优化整个流程。 DMTet 还支持从粗到细的细分，仅细化表面附近的四面体，以有效地添加几何细节，而不会浪费空间上的容量。
技术洞察
诀窍在于可微的 Marching 四面体层：经典的 Marching 四面体是不可微的，因为网格拓扑会离散变化，但 DMTet 保持梯度流经预测的 SDF 值和顶点变形，从而确定表面顶点的着陆位置。表面顶点是使用 SDF 符号变化沿四边形边缘进行线性插值放置的，因此在拓扑适应时位置和细节可以持续优化。
掌握 DMTet 混合 3D 表示
DMTet（深度行进四面体）是一种混合 3D 形状表示，它将可变形四面体网格与带符号距离场相结合，因此神经网络可以直接生成详细的、无懈可击的网格。这很重要，因为它使高分辨率 3D 网格生成可微分且可进行端到端训练。 DMTet 混合 3D 表示属于计算机视觉工作流程，可解释或生成视觉媒体以进行分析、操作和创造力。为了建立深入的理解，请将 DMTet 混合 3D 表示视为一种操作模型，而不是单个功能：定义所需的结果，澄清假设，并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。
在实践中，使用 DMTet 混合 3D 表示的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
在 NVIDIA 的 GET3D 生成模型中生成无懈可击、可用于游戏的 3D 角色和资产网格
充当 Magic3D 等文本转 3D 系统中的高分辨率网格细化阶段
将粗略体积 NeRF 结果转换为清晰的、可导出的三角形网格
使用可微渲染损失直接从多视图图像优化 3D 形状
实施模式
DMTet 混合 3D 表示实践
在 NVIDIA 的 GET3D 生成模型中生成无懈可击、可用于游戏的 3D 角色和资产网格。
在 NVIDIA 的 GET3D 生成模型中生成无懈可击、可用于游戏的 3D 角色和资产网格 团队在预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
DMTet 混合 3D 表示实践
充当 Magic3D 等文本转 3D 系统中的高分辨率网格细化阶段。
在像 Magic3D 这样的文本到 3D 系统中充当高分辨率网格细化阶段，当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
DMTet 混合 3D 表示实践
将粗略的体积 NeRF 结果转换为清晰的、可导出的三角形网格。
将粗略的体积 NeRF 结果转换为清晰的、可导出的三角形网格 当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时，通常会获得更好的结果。
DMTet 混合 3D 表示实践
使用可微渲染损失直接从多视图图像优化 3D 形状。
使用可微分渲染损失直接从多视图图像优化 3D 形状 团队在预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。