概述
自定义扩散是一种轻量级的微调方法，只需几张照片即可教会文本到图像模型新的个人概念，例如您的狗或特定的椅子。其突出特点是将几个新学到的概念组合到一个生成的场景中。
自定义扩散多概念调整属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。
深入探讨
Custom Diffusion 由 Adobe 和 CMU 研究人员于 2022 年发布，可个性化稳定扩散等模型，而无需重新训练整个网络。它发现只更新一小部分（交叉注意力层中的键和值投影矩阵）就足以吸收大约 4 到 20 个图像中的新概念，而不是更新每个权重。这使得调整速度很快（几分钟），存储空间很小（兆字节而不是千兆字节）。至关重要的是，它可以通过联合训练或使用约束优化合并单独训练的概念来一次学习多个概念。例如，这可以让你提示你的特定猫坐在你特定的设计师椅子上，这是单一概念方法难以结合的。
技术洞察
交叉注意力是文本提示影响图像的地方；文本标记形成查询，通过键和值矩阵关注扩散模型的视觉特征。自定义扩散冻结了 U-Net 的大部分内容，并仅调整那些 K 和 V 投影，这些部分最负责将单词与外观绑定。它还使用一组共享概念类别的真实图像正则化，以防止模型过度拟合并忘记更广泛的单词含义。
掌握自定义扩散多概念调音
自定义扩散是一种轻量级的微调方法，只需几张照片即可教会文本到图像模型新的个人概念，例如您的狗或特定的椅子。其突出特点是将几个新学到的概念组合到一个生成的场景中。自定义扩散多概念调整属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。为了建立深入的理解，请将自定义扩散多概念调优视为一种操作模型，而不是单一功能：定义所需的结果，澄清假设，并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。
在实践中，使用自定义扩散多概念调整的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
从几张照片中教你的特定宠物模型，然后以新的姿势、服装和设置生成它
了解品牌的产品（运动鞋或瓶子）和品牌吉祥物，然后将两者组合在一个营销图像中
捕捉个人艺术品和家庭成员的肖像并将它们放在发明的场景中
将定制家具与定制房间风格相结合，模拟室内设计概念
实施模式
自定义扩散多概念调优实践
从几张照片中教你的特定宠物模型，然后以新的姿势、服装和设置生成它。
从几张照片中教你的特定宠物的模型，然后以新的姿势、服装和设置生成它。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪随着时间的推移提高的生产力和错误成本时，通常会得到更好的结果。
自定义扩散多概念调优实践
了解品牌的产品（运动鞋或瓶子）和品牌吉祥物，然后将两者组合在一个营销图像中。
了解品牌的产品（运动鞋或瓶子）和品牌吉祥物，然后将两者组合在一个营销图像中。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
自定义扩散多概念调优实践
捕捉个人艺术品和家庭成员的肖像并将它们放在发明的场景中。
捕捉个人艺术品和家庭成员的相似之处，并将它们放在发明的场景中当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会得到更好的结果。
自定义扩散多概念调优实践
将定制家具与定制房间风格相结合，模拟室内设计概念。
将定制家具与定制房间风格相结合来模拟室内设计概念 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。