概述
GLIGEN（接地语言到图像生成）可让您通过在文本提示旁边输入模型边界框和标签来精确控制对象在生成的图像中出现的位置。它将模糊的文本到图像转变为精确的、布局可控的合成。
GLIGEN Grounded Generation 属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。
深入探讨
标准的文本到图像模型在空间控制方面遇到了困难：要求“一只猫在狗的左边”，你经常会得到错误的位置。 GLIGEN 于 2023 年推出，通过添加基础输入（例如与文本或图像实体、关键点或参考图像配对的边界框）来解决此问题。至关重要的是，它冻结了原始预训练扩散模型的权重，并注入新的可训练门控自注意力层来吸收基础令牌。这意味着它建立在稳定扩散这样的模型上，而不会破坏其学到的知识，并且门控从接近零开始，因此基础模型的行为在训练早期得以保留。结果是开放世界的接地生成：您可以将任意描述的对象放置在指定位置，并且它概括为接地训练期间未见过的概念和布局。
技术洞察
GLIGEN 将每个基础实体表示为将其文本或图像嵌入与其空间信息相结合的标记，例如通过傅立叶特征编码的边界框的四个坐标。这些接地令牌通过位于现有自注意力和交叉注意力块之间的新插入的门控自注意力层进入冻结扩散 U-Net。初始化为零的可学习门控制接地对生成的影响程度，因此添加控制可以优雅地降级并且训练保持稳定。
掌握 GLIGEN 接地发电
GLIGEN（接地语言到图像生成）可让您通过在文本提示旁边输入模型边界框和标签来精确控制对象在生成的图像中出现的位置。它将模糊的文本到图像转变为精确的、布局可控的合成。 GLIGEN Grounded Generation 属于计算机视觉工作流程，可解释或生成用于分析、操作和创造力的视觉媒体。为了建立深入的理解，请将 GLIGEN 接地发电视为一种运营模型，而不是单一功能：定义期望的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用 GLIGEN 接地发电的强大团队可以平衡准确性与数据质量、照明差异和标签一致性等操作现实。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
视觉人工智能可以大规模自动化检查、检测和标记任务。同时，如果出处不明，肖像权和同意可能会成为法律风险。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
视觉人工智能可以大规模自动化检查、检测和标记任务。
视觉人工智能可以大规模自动化检查、检测和标记任务。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
创意团队可以通过更少的手动修改更快地构建概念原型。
创意团队可以通过更少的手动修改更快地构建概念原型。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
操作可以使用以前难以处理的图像和视频信号。
操作可以使用以前难以处理的图像和视频信号。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
使用边界框将徽标或产品放置在生成的广告的精确区域中
通过指定渲染前每个角色或对象的位置来构建复杂的场景
Generating training data for object detection with known ground-truth box locations
将所描述的对象修复到现有照片的用户绘制区域中
实施模式
GLIGEN 接地发电实践
使用边界框将徽标或产品放置在生成的广告的精确区域中。
使用边界框将徽标或产品放置在生成的广告的精确区域中 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
GLIGEN 接地发电实践
Composing complex scenes by specifying where each character or object should sit before rendering.
通过在渲染之前指定每个角色或对象的位置来构建复杂的场景当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪随着时间的推移提高的生产力和错误成本时，通常会获得更好的结果。
GLIGEN 接地发电实践
使用已知的地面实况框位置生成用于对象检测的训练数据。
使用已知的真实框位置生成用于对象检测的训练数据 团队在预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时，通常会获得更好的结果。
GLIGEN 接地发电实践
将所描述的对象修复到现有照片的用户绘制区域中。
将所描述的对象修复到现有照片的用户绘制区域中 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
定义精确度、召回率和错误成本的接受标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
使用符合实际生产条件的数据进行测试。
使用符合实际生产条件的数据进行测试。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为低置信度或高影响力的预测添加人工审核。
为低置信度或高影响力的预测添加人工审核。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪模型漂移并在相机或数据集更改后重新验证。
跟踪模型漂移并在相机或数据集更改后重新验证。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。