SıradakiSonraki rehber
Mekansal Trafo Ağları
Görsel Yapay Zeka
Görsel Yapay Zeka KILAVUZU
Difüzyon Transformatörleri
Difüzyon Transformatörleri (DiT'ler), bir Transformer omurgası için görüntü ve video oluşturucuların kalbindeki evrişimli U-Net'i değiştirir.
Bu kılavuzu dinleyinAI tarafından anlatılan · ~2 min
Bu sayfada2 dakika okuma
Genel Bakış
Bu mimari, Stable Diffusion 3 ve OpenAI'nin Sora'si gibi önde gelen sistemlere güç sağlar ve siz bilgi işlem ekledikçe olağanüstü derecede iyi ölçeklenir.
Derin Dalış
Difüzyon modelleri, saf gürültüden başlayıp onu yinelemeli olarak tutarlı bir resme dönüştürerek görüntüler üretir. Yıllardır bu gürültüyü gideren ağ, evrişimli bir mimari olan U-Net'ti. Peebles ve Xie tarafından 2022'de tanıtılan Difüzyon Transformatörü, U-Net'i bir Transformatörle değiştiriyor. Görüntü önce gizli bir alana sıkıştırılır, küçük parçalara bölünür ve her parça, dil modelindeki sözcüklere benzer şekilde bir belirteç haline gelir. Transformer daha sonra her gürültü giderme adımında bu jetonları kendi dikkatiyle işler. Önemli bir bulgu, temiz ölçeklendirme yasalarını takip ederek model boyutunu artırdıkça ve yama boyutunu küçülttükçe DiT performansının tahmin edilebilir şekilde artmasıydı. Bu ölçeklenebilirlik, metinden videoya ve üst düzey metinden görüntüye sistemlerinin büyük ölçüde Transformer omurgalarına taşınmasının nedenidir.
Gerçek Dünya Uygulaması
OpenAI'nin Sora'si, metin istemlerinden dakikalarca süren, yüksek kaliteli videolar oluşturmak için uzay-zaman yamaları üzerinde bir Transformer omurgası kullanır.
Stable Diffusion 3, oluşturulan görüntüleri ayrıntılı metin açıklamalarıyla daha iyi hizalamak için çok modlu bir Difüzyon Transformatörü (MMDiT) kullanır.
Araştırmacılar bir DiT'yi milyarlarca parametreye ölçeklendiriyor ve görüntü kalitesinin öngörülebilir şekilde iyileştiğini gözlemleyerek bilgi işlem bütçesi kararlarına rehberlik ediyor.
Bir stüdyo, kısa klipleri genişletmek için DiT tabanlı bir model kullanıyor ve ekstra video karelerini gürültüyü gidermek için ek yama belirteçleri olarak değerlendiriyor.
Difüzyon Transformatörlerinin Geleceği
Difüzyon Transformatörleri, üretken medyanın varsayılan omurgası haline geliyor. Belirteç tabanlı tasarımları, görüntüleri, videoları ve hatta çok modlu oluşturmayı tek bir ölçeklenebilir mimari altında birleştirmek için onları doğal kılar. Araştırmalar, birçok tokenin karesel maliyetini azaltmak için daha uzun videoya, daha yüksek çözünürlüğe ve daha verimli ilgiye doğru ilerliyor. Benzer Transformer ölçeklendirme tariflerinin ve altyapısının her ikisine de hizmet ettiği, dünya modellerinde ve etkileşimli videoda ilerlemeyi hızlandırdığı dil ve görüntü modelleri arasında yakınlaşma bekliyoruz.
Uygulamaya koymak
Neden önemli?
- Hız ve ölçek. Visual AI, inceleme, algılama ve etiketleme görevlerini geniş ölçekte otomatikleştirebilir.
- Yapı seçimleri. Yaratıcı ekipler, daha az manuel revizyonla konseptleri daha hızlı prototipleyebilir.
- Ekip ve iş akışı. Operasyonlar, daha önce işlenmesi zor olan görüntü ve video sinyallerini kullanabilir.
Dikkat edin
- Kaynağın belirsiz olması durumunda görüntü hakları ve rıza yasal risk haline gelebilir.
- Model performansı aydınlatma, demografik özellikler ve ortamlara göre değişiklik gösterebilir.
- Güven eşikleri izlenmediği sürece yanlış pozitifler fark edilmeyebilir.
Sonraki adımlar
- Kesinlik, geri çağırma ve hata maliyetlerine ilişkin kabul kriterlerini tanımlayın.
- Gerçek üretim koşullarıyla eşleşen verilerle test edin.
- Düşük güvenirliğe sahip veya yüksek etkili tahminler için gerçek kişi tarafından yapılan incelemeyi ekleyin.
- Model kaymasını izleyin ve kamera veya veri kümesi değişikliklerinden sonra yeniden doğrulayın.
Keşfetmeye Devam Edin
Ücretsiz bülten
Günlük AI brifingini alın
Hafta içi her sabah sade İngilizce yazılmış, doğrulanmış üç yapay zeka hikayesi. Sonsuza kadar ücretsiz, reklam yok.
Hafta içi her gün bir e-posta. Tek tıklamayla aboneliğinizi iptal edin. Adresinizi asla satmayız veya paylaşmayız.
Kendinizi test edin
Take the Diffusion Transformers quiz
Her yanıtla ilgili anında geri bildirim ve bir kursu geçtiğinizde doğrulanabilir bir kimliğe sahip paylaşılabilir bir sertifika.
Ücretsiz AI eğitimini destekleyin. AI Understanding, bir 501(c)(3) kâr amacı gütmeyen kuruluştur; hiçbir zaman reklam yoktur, ödeme duvarı yoktur. Bağış yap
Sık sorulan sorular
Difüzyon Transformatörleri Nedir?
Difüzyon Transformatörleri (DiT'ler), bir Transformer omurgası için görüntü ve video oluşturucuların kalbindeki evrişimli U-Net'i değiştirir. Bu mimari, Stable Diffusion 3 ve OpenAI'nin Sora gibi önde gelen sistemlerine güç sağlar ve siz bilgi işlem ekledikçe olağanüstü derecede iyi ölçeklenir.
Geleneksel difüzyon modelleriyle karşılaştırıldığında Difüzyon Transformatörü hangi bileşenin yerini alır?
DiT'ler, gürültü gidermeyi gerçekleştiren evrişimli ağ olan U-Net'i bir Transformer omurgasıyla değiştirir.
DiT, bir görüntüyü Transformer'ın işleyebileceği bir şeye nasıl dönüştürür?
Gizli görüntü küçük parçalara bölünür ve her parça, dil modelindeki sözcüklere benzer şekilde bir simge haline gelir.
Orijinal DiT makalesi ölçeklendirme hakkında ne buldu?
Model hesaplamasını artırdıkça ve ölçeklendirme yasalarına uygun olarak daha küçük yamalar kullandıkça DiT kalitesi temiz ve öngörülebilir bir şekilde artar.
DiT'ler genellikle zaman adımı ve metin istemi gibi koşullandırmayı nasıl enjekte eder?
DiT'ler, koşullandırma sinyalinden normalleştirme katmanları için ölçek ve kaydırma parametrelerini tahmin etmek için uyarlanabilir katman normalleştirmesini kullanır.
'adaLN-zero' başlatma işlemi neyi başarıyor?
adaLN-zero modülasyonu başlatır, böylece her blok başlangıçta kimlik görevi görür, bu da eğitimi stabilize eder ve geliştirir.
Öğrenmeye devam et
İlgili kılavuzlar
Bu konu için daha fazla rehber seçildi