概述
他們共同解釋了現代開源圖像生成器如何實現逼真的品質。
深入探討
SDXL (Stable Diffusion XL) 是一個大約 35 億個參數的擴散模型,本身可以產生 1024x1024 影像,比原始的 512x512 穩定擴散有了很大的提升。它使用兩個文字編碼器(OpenCLIP ViT-bigG 和 CLIP ViT-L)來實現更豐富的即時理解,加上尺寸和裁剪調節,以便模型了解目標解析度和取景。 SDXL 作為兩級管道提供:基礎模型產生潛在影像,然後可選的細化器模型在最終的去雜訊步驟中添加精細細節。級聯擴散是其背後更廣泛的想法:不是一個模型做所有事情,而是將一個創建低解析度圖像的小模型與放大圖像的超解析度擴散模型連結起來,每個模型都針對其階段進行訓練。 Google 的 Imagen 普及了級聯方法。
現實世界的實施
直接根據文字提示產生 1024x1024 行銷和概念藝術,無需單獨的升級器
使用 SDXL 基礎加細化器管道為產品模型中的臉部和紋理添加清晰的細節
運行 SDXL Turbo 在互動式設計工具中實現近乎即時的映像預覽
建立自訂超解析度級聯,將低解析度草圖轉換為高解析度插圖
SDXL 和級聯擴散的未來
趨勢是更少、更快的步驟和統一的架構。 SDXL Turbo 和潛在一致性模型等蒸餾方法已經將生成步驟減少到一到四個步驟。擴散變壓器(如 Stable Diffusion 3 和 FLUX)正在很大程度上取代 U-Net 主幹網,而端對端高解析度產生正在減少對顯式級聯的依賴。隨著效率的不斷提高,細化、更好的文字渲染和即時設備影像合成將得到更緊密的整合。
付諸實踐
為什麼這很重要
- 速度與規模. 視覺人工智慧可以大規模自動化檢查、檢測和標記任務。
- 配裝選擇. 創意團隊可以透過更少的手動修改來更快地建立概念原型。
- 團隊與工作流程. 操作可以使用以前難以處理的影像和視訊訊號。
留意
- 如果出處不明,肖像權和同意可能會成為法律風險。
- 模型表現可能因光照、人口統計和環境的不同而有所不同。
- 除非監控置信閾值,否則誤報可能會被忽略。
後續步驟
- 定義精確度、召回率和錯誤成本的接受標準。
- 使用符合實際生產條件的數據進行測試。
- 為低置信度或高影響力的預測添加人工審核。
- 追蹤模型漂移並在相機或資料集變更後重新驗證。
不斷探索
常見問題
什麼是 SDXL 和級聯擴散?
SDXL 是 Stability AI 的高解析度文字到影像模型,它將強大的基礎產生器與精煉器配對,而級聯擴散連結多個模型以建立從低到高解析度的影像。他們共同解釋了現代開源圖像生成器如何實現逼真的品質。
與原始穩定擴散相比,SDXL 生成影像的原始解析度是多少?
SDXL 本身可產生 1024x1024 影像,比原始穩定擴散的 512x512 影像面積大四倍。
SDXL的煉油機模型有什麼作用?
細化器是一個單獨的專家模型,應用於管道末端,用於在基本模型創建潛在圖像後銳化細節。
SDXL 使用多少個文字編碼器?
SDXL 使用兩種文字編碼器:OpenCLIP ViT-bigG 和 CLIP ViT-L,兩者結合可實現更豐富的提示理解。
級聯擴散的核心思想是什麼?
級聯擴散將一個小型基礎產生器與一個或多個超解析度擴散模型連結起來,每個模型都以先前的較低解析度輸出為條件。
為什麼 SDXL 在潛在空間中降噪,而不是直接在像素上降噪?
VAE 將影像壓縮到更小的潛在空間中,因此擴散過程比對全解析度原始像素進行操作便宜得多。