Difüzyon Transformatörleri
Difüzyon Transformatörleri (DiT'ler), bir Transformer omurgası için görüntü ve video oluşturucuların kalbindeki evrişimli U-Net'i değiştirir.
Genel Bakış
This architecture powers leading systems like Stable Diffusion 3 and OpenAI's Sora, and it scales remarkably well as you add compute.
Derin Dalış
Difüzyon modelleri, saf gürültüden başlayıp onu yinelemeli olarak tutarlı bir resme dönüştürerek görüntüler üretir. Yıllardır bu gürültüyü gideren ağ, evrişimli bir mimari olan U-Net'ti. Peebles ve Xie tarafından 2022'de tanıtılan Difüzyon Transformatörü, U-Net'i bir Transformatörle değiştiriyor. Görüntü önce gizli bir alana sıkıştırılır, küçük parçalara bölünür ve her parça, dil modelindeki sözcüklere benzer şekilde bir belirteç haline gelir. Transformer daha sonra her gürültü giderme adımında bu jetonları kendi dikkatiyle işler. Önemli bir bulgu, temiz ölçeklendirme yasalarını takip ederek model boyutunu artırdıkça ve yama boyutunu küçülttükçe DiT performansının tahmin edilebilir şekilde artmasıydı. Bu ölçeklenebilirlik, metinden videoya ve üst düzey metinden görüntüye sistemlerinin büyük ölçüde Transformer omurgalarına taşınmasının nedenidir.
Teknik Bilgi
Temel bir yenilik, DiT'lerin zaman adımı ve metin istemi gibi koşullandırmayı nasıl enjekte ettiğidir. Basit birleştirme yerine, ağın normalleştirme katmanları için ölçek ve kaydırma parametrelerini koşullandırma sinyalinden tahmin ettiği uyarlanabilir katman normalleştirmesini (adaLN) kullanırlar. adaLN-zero değişkeni bunları başlatır, böylece her blok bir kimlik işlevi olarak başlar ve eğitimi stabilize eder. Yamalar jetonlar halinde düzleştirilir, standart Transformer blokları tarafından kişisel dikkat ile işlenir, ardından yeniden birleştirilir ve piksellere dönüştürülür.
Stratejik Etki
Speed and scale
Visual AI, inceleme, algılama ve etiketleme görevlerini geniş ölçekte otomatikleştirebilir.
Build choices
Yaratıcı ekipler, daha az manuel revizyonla konseptleri daha hızlı prototipleyebilir.
Ekip ve iş akışı
Operasyonlar, daha önce işlenmesi zor olan görüntü ve video sinyallerini kullanabilir.
Difüzyon Transformatörlerinin Geleceği
Difüzyon Transformatörleri, üretken medyanın varsayılan omurgası haline geliyor. Belirteç tabanlı tasarımları, görüntüleri, videoları ve hatta çok modlu oluşturmayı tek bir ölçeklenebilir mimari altında birleştirmek için onları doğal kılar. Araştırmalar, birçok tokenin karesel maliyetini azaltmak için daha uzun videoya, daha yüksek çözünürlüğe ve daha verimli ilgiye doğru ilerliyor. Benzer Transformer ölçeklendirme tariflerinin ve altyapısının her ikisine de hizmet ettiği, dünya modellerinde ve etkileşimli videoda ilerlemeyi hızlandırdığı dil ve görüntü modelleri arasında yakınlaşma bekliyoruz.
Gerçek Dünya Uygulaması
OpenAI'nin Sora'si, metin istemlerinden dakikalarca süren, yüksek kaliteli videolar oluşturmak için uzay-zaman yamaları üzerinde bir Transformer omurgası kullanır.
Stable Diffusion 3, oluşturulan görüntüleri ayrıntılı metin açıklamalarıyla daha iyi hizalamak için çok modlu bir Difüzyon Transformatörü (MMDiT) kullanır.
Araştırmacılar bir DiT'yi milyarlarca parametreye ölçeklendiriyor ve görüntü kalitesinin öngörülebilir şekilde iyileştiğini gözlemleyerek bilgi işlem bütçesi kararlarına rehberlik ediyor.
Bir stüdyo, kısa klipleri genişletmek için DiT tabanlı bir model kullanıyor ve ekstra video karelerini gürültüyü gidermek için ek yama belirteçleri olarak değerlendiriyor.
Riskler ve Korkuluklar
Kaynağın belirsiz olması durumunda görüntü hakları ve rıza yasal risk haline gelebilir.
Model performansı aydınlatma, demografik özellikler ve ortamlara göre değişiklik gösterebilir.
Güven eşikleri izlenmediği sürece yanlış pozitifler fark edilmeyebilir.
Uygulama Yol Haritası
Kesinlik, geri çağırma ve hata maliyetlerine ilişkin kabul kriterlerini tanımlayın.
Gerçek üretim koşullarıyla eşleşen verilerle test edin.
Düşük güvenirliğe sahip veya yüksek etkili tahminler için gerçek kişi tarafından yapılan incelemeyi ekleyin.
Model kaymasını izleyin ve kamera veya veri kümesi değişikliklerinden sonra yeniden doğrulayın.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Diffusion Transformers quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Mekansal Trafo Ağları
Sık sorulan sorular
What is Diffusion Transformers?
Difüzyon Transformatörleri (DiT'ler), bir Transformer omurgası için görüntü ve video oluşturucuların kalbindeki evrişimli U-Net'i değiştirir. Bu mimari, Stable Diffusion 3 ve OpenAI'nin Sora gibi önde gelen sistemlerine güç sağlar ve siz bilgi işlem ekledikçe olağanüstü derecede iyi ölçeklenir.
Geleneksel difüzyon modelleriyle karşılaştırıldığında Difüzyon Transformatörü hangi bileşenin yerini alır?
DiT'ler, gürültü gidermeyi gerçekleştiren evrişimli ağ olan U-Net'i bir Transformer omurgasıyla değiştirir.
DiT, bir görüntüyü Transformer'ın işleyebileceği bir şeye nasıl dönüştürür?
Gizli görüntü küçük parçalara bölünür ve her parça, dil modelindeki sözcüklere benzer şekilde bir simge haline gelir.
Orijinal DiT makalesi ölçeklendirme hakkında ne buldu?
Model hesaplamasını artırdıkça ve ölçeklendirme yasalarına uygun olarak daha küçük yamalar kullandıkça DiT kalitesi temiz ve öngörülebilir bir şekilde artar.
DiT'ler genellikle zaman adımı ve metin istemi gibi koşullandırmayı nasıl enjekte eder?
DiT'ler, koşullandırma sinyalinden normalleştirme katmanları için ölçek ve kaydırma parametrelerini tahmin etmek için uyarlanabilir katman normalleştirmesini kullanır.
'adaLN-zero' başlatma işlemi neyi başarıyor?
adaLN-zero modülasyonu başlatır, böylece her blok başlangıçta kimlik görevi görür, bu da eğitimi stabilize eder ve geliştirir.