Görsel Yapay Zeka KILAVUZU

GLIGEN Topraklanmış Nesil

GLIGEN (Topraklanmış Dilden Görüntüye Oluşturma), metin isteminin yanında model sınırlayıcı kutuları ve etiketleri besleyerek nesnelerin oluşturulan bir görüntüde tam olarak nerede görüneceğini kontrol etmenize olanak tanır.

2 min readSon güncelleme

Genel Bakış

It turns vague text-to-image into precise, layout-controllable synthesis.

Derin Dalış

Standart metin-görüntü modelleri mekansal kontrol konusunda zorluk yaşıyor: 'bir köpeğin solundaki bir kedi' isteyin ve çoğu zaman yerleşimi yanlış yaparsınız. 2023'te piyasaya sürülen GLIGEN, metin veya görüntü varlıkları, anahtar noktalar veya referans görüntüleri ile eşleştirilmiş sınırlayıcı kutular gibi temel girişler ekleyerek bu sorunu çözüyor. Daha da önemlisi, önceden eğitilmiş orijinal yayılma modelinin ağırlıklarını dondurur ve topraklama jetonlarını emen yeni, eğitilebilir kapılı öz-dikkat katmanlarını enjekte eder. Bu, öğrenilen bilgiyi bozmadan Stabil Difüzyon gibi bir model üzerine inşa edildiği ve geçişin sıfıra yakın bir yerde başladığı ve böylece temel modelin davranışının eğitimin başlarında korunduğu anlamına gelir. Sonuç, açık dünya tabanlı nesildir: keyfi olarak tanımlanmış nesneleri belirli konumlara yerleştirebilirsiniz ve bu, temellendirme eğitimi sırasında görülmeyen konseptlere ve düzenlere genellenir.

Teknik Bilgi

GLIGEN, her bir temel varlığı, metin veya görüntü yerleştirmesini, Fourier özellikleri aracılığıyla kodlanmış bir sınırlayıcı kutunun dört koordinatı gibi uzamsal bilgileriyle birleştiren bir simge olarak temsil eder. Bu topraklama jetonları, mevcut öz-dikkat ve çapraz-dikkat blokları arasına yerleştirilen yeni eklenen kapılı öz-dikkat katmanları yoluyla donmuş yayılım U-Net'e girer. Sıfıra başlatılan öğrenilebilir bir kapı, topraklamanın üretimi ne kadar etkilediğini kontrol eder, böylece kontrol eklenmesi incelikli bir şekilde azalır ve eğitim sabit kalır.

Stratejik Etki

Speed and scale

Visual AI, inceleme, algılama ve etiketleme görevlerini geniş ölçekte otomatikleştirebilir.

Build choices

Yaratıcı ekipler, daha az manuel revizyonla konseptleri daha hızlı prototipleyebilir.

Ekip ve iş akışı

Operasyonlar, daha önce işlenmesi zor olan görüntü ve video sinyallerini kullanabilir.

GLIGEN Topraklanmış Neslin Geleceği

Topraklanmış ve düzeni kontrol edilebilir üretim, üretim araçlarında standart hale geliyor. GLIGEN tarzı mekansal koşullandırmanın ControlNet ve bölgesel yönlendirme gibi diğer kontrol yöntemleriyle birleşmesini ve zaman ve mekana göre nesne yerleştirmenin daha da önemli olduğu video ve 3D'ye yayılmasını bekleyin. Modeller talimat takip eden arayüzleri benimsedikçe, sürükle ve bırak düzen kontrolü ve dile özgü sahne grafikleri, hızlı mühendislik hileleri olmadan hassas kompozisyonun erişilebilir olmasını sağlayacaktır.

Gerçek Dünya Uygulaması

Sınırlayıcı kutu kullanarak oluşturulan reklamın tam bir bölgesine bir logo veya ürün yerleştirme

Oluşturmadan önce her karakterin veya nesnenin nereye oturması gerektiğini belirterek karmaşık sahneler oluşturma

Bilinen temel gerçek kutusu konumlarıyla nesne tespiti için eğitim verileri oluşturma

Tanımlanan bir nesneyi mevcut bir fotoğrafın kullanıcı tarafından çizilen bir bölgesine yeniden boyamak

Riskler ve Korkuluklar

Kaynağın belirsiz olması durumunda görüntü hakları ve rıza yasal risk haline gelebilir.

Model performansı aydınlatma, demografik özellikler ve ortamlara göre değişiklik gösterebilir.

Güven eşikleri izlenmediği sürece yanlış pozitifler fark edilmeyebilir.

Uygulama Yol Haritası

1

Kesinlik, geri çağırma ve hata maliyetlerine ilişkin kabul kriterlerini tanımlayın.

2

Gerçek üretim koşullarıyla eşleşen verilerle test edin.

3

Düşük güvenirliğe sahip veya yüksek etkili tahminler için gerçek kişi tarafından yapılan incelemeyi ekleyin.

4

Model kaymasını izleyin ve kamera veya veri kümesi değişikliklerinden sonra yeniden doğrulayın.

Keşfetmeye Devam Edin

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the GLIGEN Grounded Generation quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Testi başlat

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Next guide

Metinden 3D'ye Dönüştürme

Sık sorulan sorular

What is GLIGEN Grounded Generation?

GLIGEN (Topraklanmış Dilden Görüntüye Oluşturma), metin isteminin yanında model sınırlayıcı kutuları ve etiketleri besleyerek nesnelerin oluşturulan bir görüntüde tam olarak nerede görüneceğini kontrol etmenize olanak tanır. Belirsiz metinden resme dönüştürmeyi hassas, düzen tarafından kontrol edilebilir senteze dönüştürür.

GLIGEN öncelikle hangi sorunu çözüyor?

GLIGEN, sınırlayıcı kutular gibi topraklama girişleri ekler, böylece nesnelerin tam olarak nereye yerleştirildiğini kontrol edebilirsiniz, hangi düz metin istemleri kötü şekilde işlenir.

GLIGEN önceden eğitilmiş difüzyon modelinin bilgisini nasıl korur?

GLIGEN temel modeli dondurur ve yeni kapılı öz-dikkat katmanlarını enjekte eder, böylece öğrenilen orijinal bilgi bozulmadan kalır.

GLIGEN'in kabul ettiği tipik topraklama girişi nedir?

GLIGEN, metin/görüntü varlıkları, anahtar noktalar ve referans görüntüleri içeren sınırlayıcı kutular aracılığıyla topraklamayı destekler.

GLIGEN'in yeni dikkat katmanlarındaki kapı neden sıfıra ayarlandı?

Sıfır-başlatılmış bir geçit, topraklamanın başlangıçta hiçbir etkisinin olmadığı anlamına gelir; orijinal model korunur ve kontrol arttıkça eğitimin stabil kalması sağlanır.

GLIGEN'de 'açık dünya' temelli nesil ne anlama geliyor?

GLIGEN, yeni tanımlanmış nesneleri belirli konumlara yerleştirerek temel eğitim setinin ötesinde genelleştirme yapar.