Stable Diffusion
Stable Diffusion 是 Stability AI 于 2022 年发布的开源文本到图像模型，通过从随机起点逐渐去除噪声来生成图片。
概述
由于它在消费级GPU上开放且可运行，激发了一个庞大的工具、微调和应用社区。
深入探讨
扩散模型学习逆转噪声过程。训练时，真实图像逐步添加随机噪声，直至变为静态；该模型学会预测并减去该噪声。为了生成，它从纯噪声开始，并在文本提示的引导下反复去噪，直到出现连贯的图像。稳定扩散的关键效率技巧是“潜在”部分：它不是处理全分辨率像素，而是使用变分自动编码器将图像压缩到更小的潜在空间，在那里运行缓慢的去噪，然后解码回像素。这就是为什么它可以在典型的游戏 GPU 而不是数据中心上运行。文本编码器（早期版本中的 CLIP）将提示转换为指导，U-Net 进行去噪。其开放权重支持 ControlNet、LoRA 微调和无数创意工具。
技术洞察
稳定扩散是一种潜在扩散模型。自动编码器将 512x512 图像缩小为紧凑的潜在网格，从而大大减少计算量。 U-Net 被训练来预测每个时间步添加的噪声，并通过交叉注意以文本嵌入为条件。无分类器指导可让您通过混合条件和无条件预测来调节图像遵循提示的程度。在推理时，采样器（例如 DDIM 或 Euler）采用选定数量的去噪步骤；更多的步骤通常意味着更干净的结果，但代价是速度。
战略影响
速度与规模
视觉人工智能可以大规模自动化检查、检测和标记任务。
构建选择
创意团队可以通过更少的手动修改更快地构建概念原型。
团队与工作流程
操作可以使用以前难以处理的图像和视频信号。
稳定扩散的未来
开放生态系统不断加速：更新的架构（包括基于变压器的扩散和更快的几步或蒸馏采样器）将生成从几十步减少到一到两步，从而实现近实时创建。期待更强大的文本渲染、更好的提示依从性、无缝图像编辑以及视频和 3D 扩展。开放权重将继续推动专门的微调，但它们也加剧了关于训练数据同意、深度伪造和水印的争论，因此检测和来源工具将与模型一起发展。
现实世界的实施
艺术家和爱好者通过自定义 LoRA 微调在自己的 GPU 上本地生成概念艺术和插图
使用 ControlNet 来约束具有姿势骨架、深度图或边缘草图的生成，以实现精确合成
修复和修复以编辑照片、删除对象或将场景扩展到其原始边界之外
独立游戏工作室和设计师快速、廉价地制作纹理、情绪板和资产变体
风险与防护栏
如果出处不明，肖像权和同意可能会成为法律风险。
模型性能可能因光照、人口统计和环境的不同而有所不同。
除非监控置信阈值，否则误报可能会被忽视。
实施路线图
定义精确度、召回率和错误成本的接受标准。
使用符合实际生产条件的数据进行测试。
为低置信度或高影响力的预测添加人工审核。
跟踪模型漂移并在相机或数据集更改后重新验证。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Stable Diffusion quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
什么是Stable Diffusion？
Stable Diffusion 是 Stability AI 于 2022 年发布的开源文本到图像模型，通过从随机起点逐渐去除噪声来生成图片。它开放并可在消费级 GPU 上运行，引发了一个庞大的工具、微调和应用程序社区。
从较高的层面来看，扩散模型如何生成图像？
扩散模型学习逆转噪声过程：从噪声开始，迭代地去噪，直到出现连贯的图像。
是什么让稳定扩散足够高效，可以在消费级 GPU 上运行？
稳定扩散是一种潜在扩散模型：自动编码器压缩图像，以便在较小的潜在空间中进行大量去噪。
您的文本提示如何影响生成的图像？
文本编码器将提示转换为嵌入，通过交叉注意力调节 U-Net，从而引导结果。
无分类器指导可以让您控制什么？
无分类器指导混合了条件和无条件预测，让您可以提高或降低即时依从性。
为什么 Stable Diffusion 会引发 ControlNet 和 LoRA 等如此庞大的工具生态系统？
开放权重让社区可以微调和扩展模型，生成 ControlNet 和轻量级 LoRA 适配器等附加组件。